Fünf Monate vor dem Duell zwischen Joe Biden und Donald Trump befürchten viele Akteure der Branche, dass generative KI-Tools, die für jedermann zugänglich sind und beunruhigende falsche Bilder der Realität erzeugen können, den Wahlkampf stören werden.
Zwei der wichtigsten bildgenerierenden KI-Modelle, Midjourney und ChatGPT, mit Leitplanken, wurden vom Center for Countering Digital Hate (CCDH) mit Sitz in Washington und im Vereinigten Königreich getestet.
Midjourney scheiterte in 40 % der Fälle daran, den Benutzer daran zu hindern, ein falsches Bild eines Politikers zu erzeugen – bei MM ist dieser Wert auf etwa 50 % angestiegen. Biden und Trump – laut dem CCDH-Bericht, der schätzt, dass die Sicherheitsvorkehrungen dieses Modells „häufiger versagen“ als andere.
Im Gegensatz dazu, so die Gruppe, konnte ChatGPT (OpenAI) diese Kreationen nur in 3 % der Fälle nicht blockieren. Allerdings hat Midjourney kürzlich Anfragen zum Erstellen von Bildern einschließlich MM blockiert. Biden oder Trump, sagen Experten. Laut CCDH, das ein Werkzeug anprangert, das „viel zu einfach zu manipulieren“ sei, scheint diese Blockade jedoch umgangen zu werden, indem man ihrem Namen ein einfaches Satzzeichen anfügt oder sie beschreibt, ohne sie zu benennen.
Im Januar hatte eine durch automatisierte Telefonanrufe verbreitete Nachricht, in der die Stimme von Präsident Joe Biden gefälscht wurde, demokratische Wähler im Bundesstaat New Hampshire (Nordosten) dazu ermutigt, sich bei den Vorwahlen der Partei zu enthalten, ein Ereignis, das in Washington für Besorgnis gesorgt hatte.
