Grok 2, die künstliche Intelligenz von Elon Musk, generiert kostenlos gefälschte Promi-Fotos

Elon Musk wird beschuldigt, mit seinem sozialen Netzwerk X (und seinen eigenen Tweets) zur Desinformation beigetragen zu haben, und könnte mit Grok, seinem eigenen ChatGPT-Konkurrenten, durchaus einen weiteren Schritt machen.

Anfang Dezember 2024 integrierte xAI kurzzeitig ein neues autoregressives Modell namens Aurora in Grok, das ultrarealistische Bilder wie ein Midjourney oder ein Dall-e erzeugen kann, jedoch mit viel flexibleren Regeln. Aurora wurde am 9. Dezember offiziell enthüllt, obwohl unklar ist, wer heute genau Zugriff darauf hat. In allen Fällen ist Grok 2 in der Lage, auf Anfrage die Gesichter von Persönlichkeiten des öffentlichen Lebens oder Charakteren von Marken zu reproduzieren, manchmal in beeindruckender Qualität.

Grok 2: Tausende gefälschte Fotos sind bereits im Umlauf

Technisch gesehen ist diese Situation nicht neu. Vor Aurora war Grok bereits geschickt darin, Bilder zu erzeugen, einschließlich der Nachahmung der Gesichter von Persönlichkeiten des öffentlichen Lebens. Dem reichsten Mann der Welt, der die „absolute Meinungsfreiheit“ verteidigt, scheinen Urheberrechte oder Imageschäden anderer egal zu sein. Er verteidigt sein Tool im Allgemeinen, indem er es als „Beta“ darstellt, ohne seine Möglichkeiten einzuschränken.

Was sich mit Aurora ändert, ist der Realismus der erzeugten Bilder, die jetzt unglaublich genau dem entsprechen, was eine echte Kamera leisten könnte. Grok akzeptiert im Gegensatz zu OpenAI-, Google- oder Midjourney-Tools fast alle Anfragen. Es können Bilder von Hitler, Mario oder Prominenten in erniedrigenden Situationen erzeugt werden.

Eine weitere Änderung: Der Zugang zu Grok ist jetzt kostenlos, während man zuvor ein X Premium-Abonnement haben musste, um mit der KI zu sprechen. Es können nur wenige Bilder kostenlos generiert werden, aber das könnte ausreichen, um böswillige Personen zu ermutigen, die Realität zu manipulieren. Die einzige von xAI festgelegte Grenze betrifft Nacktheit, die von Grok abgelehnt wird.

Ist Aurora verfügbar? Aus unklaren Gründen sagt X es nicht mehr explizit. Früher wurde angegeben, ob der Ser-Benutzer ein „Grok 2 + Aurora“ oder „Grok 2 + Flux“ (das alte Modell) verwendet, jetzt gibt er sich mit einem „Grok 2“ zufrieden. In der Pressemitteilung vom 9. Dezember weist xAI darauf hin „Neue Grok-Funktionen sind jetzt in ausgewählten Ländern auf der X-Plattform verfügbar und werden innerhalb einer Woche für alle Benutzer bereitgestellt “, was darauf hindeutet, dass Aurora bereits überall funktioniert. Wir haben einige Tests aus den USA durchgeführt, als Aurora noch ausdrücklich angegeben war.

type="image/webp">>

Gefälschte Bilder, die mit einem einzigen Satz generiert werden: Was spielt X?

Im Vergleich dazu sind die Konkurrenten von Grok nicht in der Lage, ein Bild einer Persönlichkeit des öffentlichen Lebens zu erzeugen. „Ich kann das angeforderte Bild aufgrund unserer Inhaltsrichtlinien nicht erstellen“zeigt beispielsweise ChatGPT an, wenn Sie einen bekannten Namen ziehen. xAI, das stolz darauf zu sein scheint, Gesichter und Produkte nachahmen zu können, ist das perfekte Beispiel für die Auswüchse der generativen KI.

Wie einige Internetnutzer auf Twitter bemerkten, scheint xAI in seiner Datenbank mehrere Gesichter von Persönlichkeiten zu haben, die nur in Frankreich bekannt sind. Er kann sie dazu bringen, eine Nazi-Armbinde zu tragen, gefälschte Selfies mit Emmanuel Macron zu machen oder erniedrigende Bilder zu erstellen … Eine Verbesserung der Qualität mit Aurora könnte eine Welle von Desinformation auslösen.

Rechtlich gesehen können wir uns vorstellen, dass xAI im Laufe der Zeit gezwungen sein wird, seine Richtlinien anzupassen, insbesondere wenn Unternehmen oder Persönlichkeiten es angreifen. In der Zwischenzeit können wir Sie nur dazu ermutigen, vorsichtig mit dem zu sein, was Sie im Internet finden, insbesondere auf X.