Seit letzter Woche haben Twitter/X-Nutzer kostenlosen Zugang zum Grok-Chatbot von xAI, dem auf künstliche Intelligenz spezialisierten Unternehmen von Elon Musk. Dieses Tool soll mit OpenAI-Produkten wie dem berühmten ChatGPT-Konversationsagenten oder dem DALL-E-Bildgenerator konkurrieren. Aber im Gegensatz zu Sam Altmans Unternehmen hat xAI seinem multimodalen Modell nur sehr wenige Grenzen gesetzt, sodass Benutzer die Möglichkeit haben, Inhalte zu generieren, die manchmal… fragwürdig oder sogar geradezu problematisch sind.
Innerhalb weniger Tage sind überall im Web und insbesondere auf oft sehr konsistent mit den Textabfragen des Benutzers, selbst in Fällen, die ein gewisses Maß an Abstraktion erfordern – eine Übung, bei der selbst die effizientesten Modelle oft auf große Probleme stoßen.
Doch andere Nutzer gingen schnell noch einen Schritt weiter. Um sich von OpenAI abzuheben, mit dem der CEO von Tesla, Und vor allem hat der xAI-Chatbot keine Kontrolle über sensible Themen, im Gegensatz zu OpenAI- und Google-Tools, die über Sicherheitsmaßnahmen verfügen, die diese Art von Anfragen und die damit verbundenen Fehlinformationen einschränken.
Eine Flut problematischer Ablenkungen
Es stellt sich jedoch heraus, dass dies auch für Bilder gilt. Im Gegensatz zu DALL-E, das nicht darauf abzielt, Bilder von echten Menschen zu erzeugen, um deren Produktion zu vermeiden DeepfakesGrok hat kein Problem damit, realistische Bilder von Prominenten zu produzieren. Offensichtlich hatten Internetnutzer einen großen Tag damit, Persönlichkeiten, insbesondere politische, in völlig abweichenden Situationen darzustellen. Dieser Beitrag des Forschers Ari Kouts ist eine hervorragende Illustration.
Der obige Beitrag tut das offensichtlich nicht Es ist nicht dazu gedacht, den Ruf von irgendjemandem zu schädigen; Das Ziel von Ari Kouts besteht lediglich darin, zu veranschaulichen, wozu Grok fähig ist. Dies ist jedoch nicht unbedingt bei jedem der Fall. Sie müssen X nur ein paar Minuten lang durchsuchen, um darauf zu stoßen offenkundig vulgäre, obszöne, beleidigende oder irreführende Beispiele auf die wir in diesem Artikel aus offensichtlichen Gründen nicht eingehen. Und die Leichtigkeit, mit der ein böswilliger Internetnutzer jetzt auf diese Art von Tool zugreifen kann, wirft immer noch eine Vielzahl recht unangenehmer rechtlicher und ethischer Fragen auf.
Beispielsweise können wir die Rechtmäßigkeit dieses Tools im Rahmen des französischen und europäischen Rechts in Frage stellen. Die DSGVO verbietet ausdrücklich die Verarbeitung personenbezogener Daten, einschließlich des Bildes einer Person, ohne deren Einwilligung (siehe Artikel 4, 5 und 17). Grok scheint jedoch keine Bedenken zu haben, Bilder aus dem gesamten Internet zu sammeln, um sie weiterzuleiten. Das französische Strafgesetzbuch und das Zivilgesetzbuch schützen auch das Recht des Einzelnen, sein Image und seinen Ruf zu wahren. Aber Grok schränkt die Möglichkeiten von Internetnutzern, potenziell diffamierende Bilder zu produzieren, in keiner Weise ein. Und bis zu einem gewissen Grad können wir sogar davon ausgehen, dass er dies durch seine scherzhafte „Persönlichkeit“ fördert.
Braucht es konkretere Gesetze?
Sicherlich haben die Nutzer nicht darauf gewartet, dass generative KI fragwürdige Inhalte erstellt; Mit traditionelleren Tools wie dem berühmten Photoshop war dies bereits durchaus möglich. Darüber hinaus ist Grok bei weitem nicht das einzige KI-basierte System, das solche Bilder erzeugen kann. Mittlerweile kann es jedoch jeder in Sekundenschnelle und ohne die geringsten technischen Fähigkeiten durchführen, und diese Manipulationen werden von der digitalen Kultur sogar noch mehr gefördert.
Es wird daher interessant sein Sehen Sie, ob sich der Gesetzgeber speziell mit Systemen befasst, die in der Lage sind, Bilder von echten Menschen zu sammeln und umzuleiten. Verdienen diese Praktiken eine strengere Regulierung, insbesondere im Vorfeld wichtiger politischer Ereignisse wie Präsidentschaftswahlen? Oder wäre es im Gegenteil eine Form der Unterdrückung der Meinungs- und Innovationsfreiheit? So viele Fragen, die es verdienen, ernsthaft untersucht zu werden, in einem Kontext, in dem diese generativen KI-Tools von Tag zu Tag effizienter werden.
???? Um keine Neuigkeiten im Journal du Geek zu verpassen, abonnieren Sie Google News. Und wenn Sie uns lieben, haben wir jeden Morgen einen Newsletter.
