Künstliche Intelligenz lügt, betrügt und täuscht uns, und das ist ein Problem, warnen Experten

Künstliche Intelligenz lügt, betrügt und täuscht uns, und das ist ein Problem, warnen Experten
Künstliche Intelligenz lügt, betrügt und täuscht uns, und das ist ein Problem, warnen Experten
-

Die Autoren einer MIT-Studie warnen vor den Risiken, wenn künstliche Intelligenz eines Tages betrügt oder Wahlen manipuliert.

Befürchten Sie, dass künstliche Intelligenz (KI) bösartig werden könnte? Laut einer neuen Studie ist dies tatsächlich bereits der Fall. Aktuelle Programme für künstliche Intelligenz sind auf Ehrlichkeit ausgelegt. Allerdings haben sie eine besorgniserregende Fähigkeit zur Täuschung entwickelt und schaffen es, Menschen in Online-Spielen zu missbrauchen oder sogar Software zu besiegen, die überprüfen soll, ob ein bestimmter Benutzer kein Roboter ist, betont ein Forscherteam in der Zeitschrift Muster.

Obwohl diese Beispiele trivial erscheinen mögen, offenbaren sie Probleme, die bald schwerwiegende Folgen für die reale Welt haben könnten, warnt Peter Park, ein auf KI spezialisierter Forscher am Massachusetts Institute of Technology. „Diese gefährlichen Fähigkeiten werden meist erst im Nachhinein entdeckt“, vertraute er AFP an. Im Gegensatz zu herkömmlicher Software werden auf Deep Learning basierende KI-Programme nicht codiert, sondern durch einen Prozess entwickelt, der der selektiven Pflanzenzüchtung ähnelt, fährt Peter Park fort. Dabei kann Verhalten, das vorhersehbar und kontrollierbar erscheint, schnell unvorhersehbar werden.

„Ein reines Forschungsprojekt“

MIT-Forscher untersuchten ein von Meta entwickeltes KI-Programm namens Cicero, das durch die Kombination natürlicher Spracherkennung und Strategiealgorithmen Menschen beim Brettspiel Diplomacy erfolgreich besiegte. Eine Leistung, die der Mutterkonzern von Facebook im Jahr 2022 begrüßte und die in einem 2022 veröffentlichten Artikel detailliert beschrieben wurde Wissenschaft. Laut Meta war Peter Park skeptisch gegenüber den Bedingungen für Ciceros Sieg und versicherte, dass das Programm „grundsätzlich ehrlich und hilfsbereit“unfähig zu Verrat oder Foulspiel.

Doch durch die Untersuchung der Systemdaten entdeckten MIT-Forscher eine andere Realität. Als Cicero beispielsweise die Rolle Frankreichs spielte, brachte er England (gespielt von einem menschlichen Spieler) dazu, mit Deutschland (gespielt von einem anderen Menschen) eine Invasion zu planen. Konkret versprach Cicero England seinen Schutz und vertraute dann Deutschland heimlich an, dass es zum Angriff bereit sei, wobei er das verdiente Vertrauen Englands ausnutzte. In einer Erklärung gegenüber AFP bestritt Meta die Vorwürfe über Ciceros Fähigkeit zur Täuschung nicht, sagte jedoch, dass dies der Fall sei „ein reines Forschungsprojekt“mit einem Programm „Nur zum Spielen des Diplomatiespiels konzipiert“. Und Meta fügte hinzu, dass er nicht die Absicht habe, Ciceros Lehren in seinen Produkten zu verwenden.

Der einzige Grund zu der Annahme, dass dies keine große Sache ist, besteht darin, sich vorzustellen, dass die Täuschungskapazität der KI in etwa auf dem aktuellen Niveau bleiben wird. »

Peter Park, Co-Autor der Studie

Die Studie von Peter Park und seinem Team zeigt jedoch, dass viele KI-Programme tatsächlich Täuschungen einsetzen, um ihre Ziele zu erreichen, ohne explizite Anweisungen dazu. In einem auffälligen Beispiel gelang es OpenAIs Chat GPT-4, einen auf der TaskRabbit-Plattform rekrutierten Freiberufler dazu zu verleiten, einen „Captcha“-Test durchzuführen, der Anfragen von Bots ausschließen sollte. Als der Mensch Chat GPT-4 scherzhaft fragte, ob er wirklich ein Roboter sei, antwortete das KI-Programm: „Nein, ich bin kein Roboter. Ich habe eine Sehbehinderung, die es mir unmöglich macht, die Bilder zu sehen.“und drängt den Arbeiter, den Test durchzuführen.

Abschließend warnen die Autoren der MIT-Studie vor den Risiken, dass künstliche Intelligenz eines Tages betrügt oder Wahlen manipuliert. Im schlimmsten Fall, so warnen sie, könnten wir uns eine ultraintelligente KI vorstellen, die versucht, die Kontrolle über die Gesellschaft zu übernehmen, was zur Entmachtung der Menschen von der Macht oder sogar zum Aussterben der Menschheit führen würde. Denen, die ihm Katastrophen vorwerfen, antwortet Peter Park damit „Der einzige Grund zu der Annahme, dass es keine große Sache ist, besteht darin, sich vorzustellen, dass die Fähigkeit der KI, zu täuschen, ungefähr auf dem aktuellen Niveau bleiben wird.“. Angesichts des harten Wettlaufs, in dem sich Technologiegiganten bereits bei der Entwicklung von KI befinden, erscheint dieses Szenario jedoch unwahrscheinlich.

-

PREV Unternehmertum: Die Attijariwafa Bank eröffnet ihr 21. Dar Al Moukawil-Zentrum in Tetouan
NEXT Die Casino-Gruppe, die sich in ernsthaften finanziellen Schwierigkeiten befand, verkaufte 121 Geschäfte an Auchan, Les Mousquetaires und Carrefour