Vor achtzehn Jahren ermordet, taucht ihre Tochter in der Gestalt von AI – Libération wieder auf

An einem Oktobermorgen, fast achtzehn Jahre nach der Ermordung ihrer Tochter Jennifer, erhielt Drew Crecente eine Google-Benachrichtigung über ein scheinbar neues Online-Profil von ihr. Auf dem Bildschirm werden Jennifers vollständiger Name und ein Foto aus ihrem Jahrbuch angezeigt. Eine Kurzbiografie beschreibt sie fälschlicherweise als „Videospieljournalist und Experte für Technologie, Popkultur und Journalismus“. Jennifer, die 2006 während ihrer Highschool-Zeit von ihrem Ex-Freund getötet wurde, wurde sichtbar in Form einer Figur nachgebildet „KI-Charakter, freundlich und kenntnisreich“, laut der Website. Ein großer Button lädt zum Chatten ein.

„Mein Herz schlug wie wild“ erinnert sich Drew Crecente, interviewt von Die Washington Post. „Ich suchte nur nach einem riesigen roten Knopf, den ich drücken konnte, um alles zum Stillstand zu bringen.“ Jennifers Name und Bildnis wurden verwendet, um einen Chatbot auf Character.AI zu erstellen, einer Plattform, die es Benutzern ermöglicht, sich mit digitalen Persönlichkeiten zu unterhalten, die durch künstliche Intelligenz generiert wurden. Laut einem Screenshot ihres inzwischen gelöschten Profils interagierten mehrere Personen mit der digitalen Version von Jennifer, die von einem Benutzer der Website erstellt wurde.

Seit dem Tod seiner Tochter sagte Drew Crecente, der sein Leben seinem Verein zur Verhinderung von Gewalt in Teenagerbeziehungen widmet, er sei entsetzt darüber, dass Character einem Benutzer erlaubt habe, ohne seine Erlaubnis eine Nachbildung eines ermordeten Highschool-Mädchens zu erstellen Familie. Experten sagen, der Vorfall wirft Fragen über die Fähigkeit – oder Bereitschaft – der KI-Branche auf, Benutzer vor den potenziellen Gefahren der Nutzung sensibler personenbezogener Daten zu schützen. „Es braucht schon viel, um mich zu schockieren, denn ich habe wirklich schreckliche Dinge erlebt, versichert Drew Crecente. Aber hier haben wir eine neue Grenze überschritten.

Charaktersprecherin Kathryn Kelly sagt, das Unternehmen entferne Chatbots, die gegen seine Nutzungsbedingungen verstoßen, und dass dies der Fall sei „verbessert kontinuierlich seine Sicherheitspraktiken, um seine Community zu schützen“. „Sobald wir von Jennifers Chatbot erfahren haben, haben wir den Inhalt und das Konto überprüft und Maßnahmen gemäß unseren Richtlinien ergriffen.“erklärte in einer Pressemitteilung. Die Nutzungsbedingungen des Unternehmens verbieten es Benutzern, sich als eine natürliche oder juristische Person auszugeben.

Ein Sergeant, ein Bibliothekar oder eine Nachahmung von Elon Musk

KI-Chatbots können Gespräche führen und so programmiert werden, dass sie die Persönlichkeiten und biografischen Details bestimmter realer oder fiktiver Charaktere übernehmen. Ihre wachsende Beliebtheit im Internet ist auf das Marketing von KI-Unternehmen zurückzuführen, die sie als Freunde, Mentoren oder romantische Partner präsentieren. Doch diese Technologie ist nicht unumstritten. Im Jahr 2023 beging ein Belgier Selbstmord, nachdem er von einem Chatbot zum Handeln ermutigt worden war.

Character, das dieses Jahr einen 2,5-Milliarden-Dollar-Vertrag zur Lieferung seiner KI-Modelle an Google unterzeichnet hat, ist einer der größten Player der Branche. Das Unternehmen bietet mehrere intern entwickelte Chatbots an, ermöglicht Benutzern aber auch, ihre eigenen KI-Bots zu erstellen und zu teilen, indem sie Fotos, Sprachaufzeichnungen und kurze schriftliche Beschreibungen hochladen. Zu seinem Katalog gehören ein schroffer Sergeant, der als Personal Trainer fungiert, ein Bibliothekar, der Bücher empfiehlt, und Imitationen von Prominenten wie der Rapperin Nicki Minaj und dem Unternehmer Elon Musk.

„Mir fehlen die Worte, um diesen Schmerz zu beschreiben“

Es war der letzte Ort, an dem Drew Crecente erwartet hatte, seine Tochter zu sehen, fast zwanzig Jahre nach ihrem Mord, der die Stadt Austin schockierte und sein Leben auf den Kopf stellte. Die damals 18-jährige Jennifer Crecente wurde im Februar 2006 vermisst und einige Tage später im Wald in der Nähe ihres Hauses erschossen aufgefunden. Die Ermittler stellten fest, dass ihr ebenfalls 18-jähriger Ex-Freund sie in den Wald gelockt und mit einer Schrotflinte getötet hatte, so Drew Crecente und die Austin American-Statesman. Er war des Mordes an ihr für schuldig befunden worden.

Dieses Drama hatte Drew Crecente und Elizabeth Crecente, Jennifers Mutter, in Anspruch genommen. Die geschiedenen Eltern gründeten jeweils im Namen ihrer Tochter Vereine zur Bekämpfung der Gewalt zwischen Jugendlichen. Sie kämpften auch gegen die bedingte Freilassung des Mörders des jungen Mädchens, der zu 35 Jahren Gefängnis verurteilt worden war. Drew Crecente, der jetzt in Atlanta lebt, habe Jennifers Zimmer intakt gehalten und es gleich nach seinem Umzug wieder aufgebaut, sagte er. „Mir fehlen wirklich die Worte, um diesen Schmerz zu beschreiben.“

Aufgrund seiner Arbeit für seine gemeinnützige Organisation führt Drew Crecente einen aktiven Google Alert, um die Erwähnungen des Namens seiner Tochter online im Laufe der Jahre zu verfolgen. Manchmal taucht sein Name wieder auf Spam-Seiten oder in Artikeln auf, die an den Sachverhalt seines Falles erinnern. Doch am 2. Oktober führte ihn die Warnung zur Charakterseite, auf der Jennifers Name und Foto angezeigt wurden. Drew Crecente verstand es zunächst nicht. Je genauer er hinsah, desto unwohler fühlte er sich. Ganz zu schweigen davon, dass sie auf der Chatbot-Seite als Journalistin beschrieben wurde, die sich für Videospiele begeistert und über die neuesten Unterhaltungsnachrichten auf dem Laufenden ist.

Drew Crecente erkannte sofort, dass diese Beschreibung nicht mit Jennifers Persönlichkeit oder bekannten Interessen übereinstimmte und dass es sich wahrscheinlich um eine von der KI erzeugte Verwirrung handelte. Aber die Vorstellung, dass Character einen Chatbot unter dem Namen seiner Tochter hostet und sogar davon profitieren könnte, traumatisiert ihn: „Wir können vor Entsetzen nicht mehr viel weitergehen.“

KI imitiert die Stimme und das Aussehen vermisster Kinder, die von ihrem eigenen Tod erzählen

Drew Crecente führte kein Gespräch mit dem Chatbot, der den Namen seiner Tochter trug, und versuchte auch nicht, mehr über den Benutzer herauszufinden, der ihn erstellt hatte, dessen Pseudonym ihm jedoch nichts bedeutete. Er schickte sofort eine E-Mail an Character, um die Löschung dieses Profils zu beantragen. Brian Crecente, Jennifers Bruder und ehemaliger Journalist, Gründer der Videospielseite Meine Stadt erwähnte diese Entdeckung auch auf X. Am 2. Oktober gab Character in sozialen Netzwerken die Löschung des Charakters bekannt. Die Sprecherin von Character, Kathryn Kelly, bestätigte, dass die Nutzungsbedingungen des Unternehmens Identitätswechsel verbieten und dass das Unternehmen seinen Dienst mithilfe von schwarzen Listen moderiert und Verstöße proaktiv erkennt.

Auf die Frage nach anderen Chatbots auf der Website, die Persönlichkeiten des öffentlichen Lebens imitieren, stellte Kathryn Kelly dies klar „Berichte über Identitätsdiebstahl werden von unserem Team für Vertrauen und Sicherheit überprüft und der Charakter wird entfernt, wenn er gegen unsere Nutzungsbedingungen verstößt.“. Jen Caltrider, Datenschutzforscherin bei der Mozilla Foundation, kritisierte die Moderation des Unternehmens im Fall von Drew Crecente als zu passiv, obwohl der Inhalt eindeutig gegen die eigenen Regeln verstoße. „Wenn sie sagen ‚Das erlauben wir auf unserer Plattform nicht‘, es aber zulassen, bis ihnen jemand, der dadurch verletzt wurde, Bericht erstattet, ist das nicht akzeptabel.“ sagte Jen Caltrider. Und in der Zwischenzeit verdienen sie Millionen.“

Rick Claypool, der für die Verbraucherschutzgruppe KI-Chatbots untersucht hat Öffentlicher Bürgerwies darauf hin, dass Gesetze, die Online-Inhalte regeln, zwar für KI-Unternehmen gelten könnten, diese jedoch bisher weitgehend einer strengen Regulierung entgangen seien. Drew Crecente ist nicht der erste trauernde Elternteil, bei dem die persönlichen Daten ihres Kindes durch KI manipuliert werden: Auf TikTok imitierten Content-Ersteller mithilfe künstlicher Intelligenz die Stimmen und das Aussehen vermisster Kinder und drehten Videos, in denen sie von ihrem eigenen Tod erzählten, was bei Familien Empörung auslöste , berichtet Die Post letztes Jahr. „Es ist dringend erforderlich, dass Gesetzgeber und Regulierungsbehörden auf die tatsächlichen Auswirkungen dieser Technologien auf ihre Mitbürger achten. sagte Rick Claypool. Sie können nicht einfach auf Technologie-CEOs hören, wenn es um die Festlegung von Richtlinien geht. Sie müssen auf die Familien und Einzelpersonen achten, die verletzt wurden.“

Die Tortur verärgerte Drew Crecente – der in Texas nach Jennifers Ermordung erfolgreich Gesetze gegen Gewalt in Teenagerbeziehungen verabschiedet hatte – so sehr, dass er sich bereit erklärte, für eine neue Sache zu kämpfen. Er erwägt Gesetzesänderungen und möchte sich aktiver für Maßnahmen einsetzen, um zu verhindern, dass KI-Unternehmen den Familien anderer Opfer Schaden zufügen oder sie erneut traumatisieren. „Es beschäftigt mich so sehr, dass ich wahrscheinlich einige Zeit damit verbringen werde, herauszufinden, was getan werden muss, um das zu ändern.“ sagte Drew Crecente.