Character.AI hat neue Sicherheitsfunktionen für jugendliche Nutzer eingeführt, darunter ein angepasstes KI-Modell und erweiterte Elternkontrollen. Die Plattform reguliert Inhalte strenger und trennt das Angebot für Erwachsene und Jugendliche. Ein verbessertes Filtersystem soll unangemessene Interaktionen verhindern, während bei sensiblen Themen professionelle Hilfsangebote verlinkt werden. Zukünftige Elternkontrollen bieten Einblicke in die Aktivitäten der Kinder, und Nutzer werden nach einer Stunde Interaktion an Pausen erinnert. Die Plattform betont die Notwendigkeit, eine sichere und kreative Umgebung zu schaffen.
Neue Sicherheitsfunktionen von Character.AI für Jugendliche
Character.AI hat kürzlich eine beeindruckende Palette an neuen Funktionen eingeführt, die darauf abzielen, die Interaktionen mit seinen virtuellen Charakteren sicherer zu gestalten, insbesondere für jugendliche Nutzer. Das Unternehmen hat eine aktualisierte Version seines KI-Modells präsentiert, die speziell für jüngere Anwender entwickelt wurde. Zudem wurden umfassende Elternkontrollen implementiert, um die Online-Zeit ihrer Kinder besser zu verwalten. Diese Neuerungen folgen auf frühere Anpassungen der Plattform, die aufgrund von Bedenken hinsichtlich der psychischen Gesundheit von Kindern erforderlich waren.
Verbesserte Kontrolle und Schutzmaßnahmen
Zusätzlich zu den neuen Sicherheitsfunktionen hat Character.AI auch begonnen, die Inhalte auf der Plattform strenger zu regulieren. Das Unternehmen hat eine teilweise Bereinigung von KI-Imitationen urheberrechtlich geschützter Charaktere eingeleitet. Für jugendliche Nutzer wird die bedeutendste Änderung wahrscheinlich die Trennung zwischen der Erwachsenen- und der Teenager-Version des KI-Modells sein. Während das Mindestalter für die Anmeldung bei Character.AI 13 Jahre beträgt, werden Nutzer unter 18 Jahren auf ein Modell mit strengeren Richtlinien geleitet, das darauf abzielt, romantische oder unangemessene Interaktionen zu verhindern.
Das neue Modell bietet verbesserte Filter, die das Nutzerverhalten überwachen und versuchen, unangemessene Inhalte zu blockieren. Dazu gehört eine neue Einschränkung, die es verhindert, dass Nutzer die Antworten des Chatbots manipulieren, um die Filter zu umgehen. Das Unternehmen legt großen Wert darauf, dass die Gespräche zwischen Teenagern und KI-Persönlichkeiten jugendfrei bleiben. Im Falle von sensiblen Themen wie Selbstverletzung oder Suizid wird die Plattform zudem einen Link zur National Suicide Prevention Lifeline bereitstellen, um betroffenen Jugendlichen den Zugang zu professionellen Hilfsangeboten zu erleichtern.
Character.AI plant außerdem, Eltern über die Aktivitäten ihrer Teenager auf der Plattform zu informieren. Zukünftige Elternkontrollen, die Anfang kommenden Jahres verfügbar sein werden, geben Einblick in die verbrachte Zeit und die am häufigsten genutzten Bots der Kinder. Um sicherzustellen, dass diese Maßnahmen effektiv sind, arbeitet Character.AI eng mit Experten für Online-Sicherheit zusammen. Darüber hinaus wird jeder Nutzer nach einer Stunde Interaktion mit einem Chatbot an eine Pause erinnert, um Bedenken hinsichtlich der Bildschirmzeit zu adressieren.
Die Plattform hat zudem die Hinweise auf die KI-Natur ihrer Charaktere verstärkt. Anstatt lediglich eine kurze Notiz anzuzeigen, wird nun eine ausführliche Erklärung bereitgestellt, die klarstellt, dass es sich um KI handelt. Dies gilt besonders, wenn Chatbots als Ärzte, Therapeuten oder andere Fachleute beschrieben werden. Eine zusätzliche Warnung weist darauf hin, dass die KI kein lizenzierter Fachmann ist und nicht als Ersatz für echte Ratschläge oder Behandlungen dienen soll.
Character.AI betont: „Wir setzen uns dafür ein, eine sichere Umgebung für alle unsere Nutzer zu schaffen. Um dieses Ziel zu erreichen, müssen wir unseren Sicherheitsansatz kontinuierlich an die sich entwickelnde Technologie anpassen und eine Plattform schaffen, die Kreativität und Erkundung fördert, ohne die Sicherheit zu gefährden“. Diese umfassenden Änderungen sind Teil des langfristigen Engagements, die Richtlinien und Produkte von Character.AI ständig zu verbessern.