In beiden gegen C.AI eingereichten Klagen wollen die Eltern, dass das Modell zerstört und nicht weiterentwickelt wird. Das liegt daran, dass sie nicht nur die Chats ihrer Kinder als schädlich betrachten, sondern auch glauben, dass es für C.AI inakzeptabel war, sein Modell auf die Chats ihrer Kinder zu trainieren.
Da das Modell niemals vollständig von ihren Daten bereinigt werden konnte – und weil C.AI angeblich keine angemessene Alterseinstufung durchführt und derzeit unklar ist, wie viele Kinderdaten zum Trainieren des KI-Modells verwendet wurden – haben sie Gerichte gebeten, C.AI anzuordnen um das Modell zu löschen.
Ars konnte die Anwälte, die Familien vertreten, die klagen, nicht sofort um eine Stellungnahme erreichen, aber es ist auch wahrscheinlich, dass Eltern mit dem getrennten Teenager-Modell nicht zufrieden sein werden, weil sie die Altersüberprüfungsmethode von C.AI für fehlerhaft halten.
Derzeit besteht die einzige Möglichkeit, mit der C.AI die Plattform nach Alter sperrt, darin, die Benutzer aufzufordern, das Alter selbst anzugeben. Für einige Kinder auf Geräten mit strengen Kindersicherungen könnte der Zugriff auf die App schwieriger sein, andere Kinder mit weniger Regeln könnten jedoch scheinbar auf das Erwachsenenmodell zugreifen, indem sie über ihr Alter lügen. Dies geschah im Fall eines Mädchens, dessen Mutter klagt, nachdem das Mädchen bereits mit 9 Jahren mit der Nutzung von C.AI begonnen hatte und es angeblich nur Nutzern ab 12 Jahren angeboten wurde.
Ars konnte mit derselben E-Mail-Adresse versuchen, sich als 13-Jähriger, 16-Jähriger und Erwachsener zu registrieren, ohne dass es Probleme gab, die erneute Versuche verhinderten.
Der Sprecher von C.AI teilte Ars mit, dass das so nicht funktionieren dürfe, und versicherte Ars, dass das Vertrauens- und Sicherheitsteam von C.AI benachrichtigt werde.
„Sie müssen mindestens 13 Jahre alt sein, um ein Konto auf Character.AI zu erstellen“, sagte der Sprecher von C.AI in einer Erklärung gegenüber Ars. „Benutzer unter 18 Jahren erhalten eine andere Erfahrung auf der Plattform, einschließlich eines konservativeren Modells, um die Wahrscheinlichkeit zu verringern, auf sensible oder anzügliche Inhalte zu stoßen. Das Alter wird selbst angegeben, wie es bei anderen Plattformen branchenüblich ist. Wir haben Tools im Web und.“ in der App verhindert Wiederholungsversuche, wenn jemand die Altersgrenze nicht erreicht.“
Wenn Sie oder jemand, den Sie kennen, Selbstmordgedanken haben oder sich in einer Notlage befinden, rufen Sie bitte die Suicide Prevention Lifeline-Nummer 1-800-273-TALK (8255) an, die Sie mit einem örtlichen Krisenzentrum in Kontakt bringt.
