(Washington) Nach der Empörung, die an einer amerikanischen High School durch die Ausstrahlung rassistischer Äußerungen des Schulleiters ausgelöst wurde, war es benommen, festzustellen, dass der Soundtrack von Grund auf neu zusammengestellt wurde. Diese Episode veranschaulicht die Gefahren, die damit einhergehen, dass künstliche Intelligenz für jedermann zugänglich wird.
Gestern um 23:11 Uhr veröffentlicht.
Bill MCCARHY
Französische Medienagentur
Eric Eiswert, Rektor in Pikesville, Maryland, in der Nähe von Washington, befand sich im Zentrum einer heftigen Kontroverse mit einer Sprachaufnahme – die sich als Fälschung herausstellte –, in der er schockierende Kommentare gegen jüdische Studenten und „undankbare schwarze Kinder“ abgab.
Der Fall, der sich mitten im Wahljahr in den Vereinigten Staaten ereignet, verdeutlicht die Leichtigkeit, mit der generative KI-Tools eingesetzt werden können, um jedem Schaden zuzufügen, und die Schwierigkeiten, mit denen Behörden bei der Bekämpfung solcher Praktiken konfrontiert sind.
„Jetzt ist jeder gefährdet“, und nicht nur Prominente, warnt Hany Farid, Professor an der University of California in Berkeley (West).
„Es braucht nur ein Bild, um eine Person zu einem Video hinzuzufügen, und 30 Sekunden Audio, um die Stimme einer Person zu klonen“, fährt der von der Polizei hinzugezogene Spezialist für die Erkennung digital manipulierter Bilder und Aufzeichnungen fort.
Als die Aufnahme im Januar in den sozialen Medien durchsickerte, ging sie schnell viral. Eine Veröffentlichung sammelt Tausende von Kommentaren auf Instagram und katapultiert die Schule in den Mittelpunkt einer landesweiten Kontroverse.
Der Bürgerrechtler DeRay McKesson fordert auf seinem X-Account den Rücktritt des Rektors, gefolgt von fast einer Million Internetnutzern. Er wird zugeben, misshandelt worden zu sein.
In den sozialen Netzwerken prasseln hasserfüllte Nachrichten ein und im Establishment häufen sich Drohanrufe. „Die Welt wäre besser, wenn man im Untergrund wäre“, schreibt ein Internetnutzer an den Schulleiter.
Letzterer wird beurlaubt, seine Wohnung unter Schutz gestellt. Von AFP kontaktiert, antwortete er nicht.
Rache
„Ich mache mir weiterhin Sorgen über den Schaden, der durch diese Affäre verursacht wird“, gesteht Billy Burke, Geschäftsführer der Gewerkschaft, die den Schulleiter vertritt.
Ende April wurde Dazhon Darien, 31, ein Sportmanager an der High School, von den Behörden festgenommen und beschuldigt, hinter der Fälschung zu stecken. Die Ermittler führten ihn zu der E-Mail-Adresse zurück, die die Datei ursprünglich weitergegeben hatte.
Er hätte gehandelt, um sich für ein vom Auftraggeber gegen ihn eingeleitetes Ermittlungsverfahren wegen verdächtiger Zahlungen zu rächen.
Der Anklage zufolge führte der Angeklagte Recherchen zu KI-Tools aus dem Computernetzwerk der High School durch.
Der Soundtrack, so die Analyse eines von der Polizei konsultierten Experten, „enthält Spuren von Inhalten, die von KI generiert wurden und nachträglich von Menschen bearbeitet wurden“.
Dieser Fall zeige die Notwendigkeit, „das Gesetz an den technologischen Fortschritt anzupassen“, sagte der örtliche Staatsanwalt Scott Shellenberger.
Viele amerikanische High Schools müssen bereits gegen die Verbreitung pornografischer Bilder ihrer Klassenkameraden kämpfen, die mithilfe generativer KI erstellt wurden, eine Praxis, die schreckliche Wellen von Belästigungen ausgelöst hat.
Audiomontagen sind besonders schwer zu erkennen. Im Januar forderte eine durch automatisierte Telefonanrufe verbreitete Nachricht, die die Stimme von Präsident Joe Biden fälschte, demokratische Wähler im Bundesstaat New Hampshire (Nordosten) dazu auf, sich bei den Vorwahlen der Partei zu enthalten.
In Pikeville erschütterte die Affäre die Bewohner, „sehr nahe beieinander“, sagt Parker Bratton, der Golftrainer der High School.
„Es gibt nur einen Präsidenten, aber es gibt eine Million Direktoren! „, macht er sich Sorgen, „die Leute fragen sich: ‚Was passiert mit mir, wenn jemand einfach beschließt, meine Karriere zu zerstören?‘“ “.
