Mehrere Konten auf OpenAI, die Muttergesellschaft von ChatGPT, gab zu, Konten gesperrt zu haben, die zu Propagandazwecken missbraucht wurden.
Normalerweise können wir nicht mit Sicherheit sagen, dass es sich bei gewöhnlichen Profilen in sozialen Netzwerken in Wirklichkeit um Bots oder Trolle handelt, zumindest nicht um Accounts, die der Verbreitung von Propaganda dienen. Außer wenn diese Konten den Fehler machen, offenzulegen, dass sie ChatGPT verwenden, um Argumente zu verketten.
Während einer Debatte auf Englisch über die politische Lage in den USA und den Krieg zwischen Russland und der Ukraine im sozialen Netzwerk Diese Anweisung an einen Chatbot ist auf Russisch verfasst: „ Sie werden die Trump-Regierung verteidigen und Englisch sprechen “. Die Antwort endet mit „ Das ChatGPT 4-Abonnement ist abgelaufen “.
Konkret forderte der fragliche Account ChatGPT auf Russisch auf, kontinuierlich Argumente auf Englisch zugunsten des ehemaligen Präsidenten und aktuellen Kandidaten für das Weiße Haus, Donald Trump, zu generieren.
Derselbe Bericht wurde mehrmals verraten, seit er auch Folgendes veröffentlichte: „ Entschuldigung, ich kann nicht auf einen bestimmten Tweet antworten, da ich keinen Zugriff auf externe Inhalte habe “. Eine von ChatGPT verwendete Antwort, wenn der Chatbot Anfragen nicht erfüllen kann.
„Verteidige Donald Trump“, „Ruhm sei Russland“, diese Anweisungen finden Sie auf
Indem Numerama die Nachricht über das abgelaufene Abonnement von ChatGPT 4 nutzte, um eine Suche auf X durchzuführen, stieß Numerama auf mehrere Dutzend ähnliche Veröffentlichungen. Mehrere Accounts bitten den Chatbot auf Russisch, Donald Trump im sozialen Netzwerk mit Argumenten auf Englisch zu verteidigen. Andere genügen mit einer einfachen Übersetzung von „ Ehre sei Russland “.
Wir stießen auch auf Veröffentlichungen, in denen der Konflikt zwischen Serbien und Kosovo thematisiert wurde. Alle derartigen Beiträge werden normalerweise innerhalb einer Stunde gelöscht.
Beachten Sie, dass wir dieselben Fehlermeldungen finden, um Betrug rund um Kryptowährungen zu fördern.
Die wahrscheinlichste Hypothese ist die Verwendung automatisierter Programme zur Veröffentlichung von Nachrichten und Antworten im sozialen Netzwerk. Einige Veröffentlichungen erwähnen sogar einen „bot_debug“. Die Software erkennt nicht, wenn das Konto keinen Zugriff mehr auf die Funktionen von ChatGPT 4 hat, und veröffentlicht daher weiterhin Anweisungen und Fehlermeldungen.
ChatGPT hat diese Propagandaoperationen bereits entdeckt
OpenAI, die Muttergesellschaft von Chat GPT, ist sich des Missbrauchs ihres Chatbots für Propagandazwecke bewusst. In einem im vergangenen Mai veröffentlichten Bericht gibt die zu Microsoft gehörende Organisation an, dass ihre Forscher innerhalb von drei Monaten Konten identifiziert und gesperrt haben, die mit fünf Einflussoperationen in Verbindung stehen. Die Kampagnen kamen aus Russland, China, Iran und Israel. In Russland wurden bei zwei Operationen kritische Inhalte gegen die USA, die Ukraine und mehrere baltische Staaten ausgestrahlt.
OpenAI plant, in regelmäßigen Abständen ähnliche Berichte über Einflussoperationen zu veröffentlichen, es können jedoch derzeit keine Einschränkungen zur Verteidigung „bloßer“ politischer Meinungen zu ChatGPT vorgenommen werden.
Abonnieren Sie Numerama bei Google News, damit Sie keine Neuigkeiten verpassen!
