Konversationelle künstliche Intelligenz (KI) könnte bald die Handelsentscheidungen der Benutzer beeinflussen, bevor sie überhaupt getroffen wurden, und den Weg für mögliche Manipulationen ebnen, warnen Forscher der Universität Cambridge in einem am Montag veröffentlichten Artikel. „KI-Tools befinden sich bereits in der Entwicklung, um die zukünftigen Entscheidungen von Internetnutzern zu ermitteln, abzuleiten, zu sammeln, aufzuzeichnen, zu verstehen, vorherzusagen und letztendlich zu manipulieren und zu kommerzialisieren“, erklärt Yaqub Chaudhary, einer der Co-Autoren vom Leverhulme Center for the Future of Intelligence (LCFI) in Cambridge – ein interdisziplinäres Forschungszentrum, das sich der KI widmet. Dieser Handel würde sich auf die Absichten eines Internetnutzers konzentrieren, beispielsweise auf seine zukünftigen Einkäufe oder seine nächsten Abstimmungen. Es würde daher über die derzeitige Praxis hinausgehen, die darauf abzielt, die Aufmerksamkeit eines Nutzers an Meistbietende, insbesondere in sozialen Netzwerken, zu verkaufen, indem beispielsweise gezielte Werbung auf der Grundlage seiner Surfgewohnheiten oder seines Verlaufs geschaltet wird.
Konkret könnte eine KI vertrauliche psychologische und Verhaltensdaten eines Benutzers sammeln und sich dann an diese anpassen, um ein hohes Maß an Vertrauen aufzubauen und ihn leichter zu beeinflussen, so die Autoren dieses im Harvard Data Science Review veröffentlichten Artikels. „Hast du darüber nachgedacht, heute Abend Spiderman zu sehen?“ oder „Du hast gesagt, dass du dich überarbeitet fühlst, kann ich dir die Kinokarte buchen, über die wir gesprochen haben?“, nennen die Autoren des Artikels als Beispiele für Vorschläge eines „Chatbots“. Vorschläge zum „Verkauf“ über ein Echtzeit-Auktionssystem, die auch ein Hotel, eine Autovermietung oder die Wahl eines politischen Kandidaten betreffen können.
„Soziale Manipulation im industriellen Maßstab“
Diese „Ökonomie der Absicht“, wie Forscher es nennen, ebnet den Weg für mögliche „soziale Manipulation im industriellen Maßstab“, heißt es in der Pressemitteilung zu diesem Artikel. „Wir sollten anfangen, über die wahrscheinlichen Auswirkungen eines solchen Marktes auf menschliche Bestrebungen nachzudenken, einschließlich freier und fairer Wahlen, einer freien Presse und eines fairen Marktwettbewerbs“, sagt Jonnie Penn, Mitautor der Studie. „Was die Leute sagen, wenn sie sich unterhalten, wie sie es sagen und die Art der ‚möglichen‘ Einmischung sind viel intimer als die bloße Aufzeichnung von Online-Interaktionen“, betont Yaqub Chaudhary.
Die Forscher stellen fest, dass Unternehmen wie OpenAI (ChatGPT), Shopify, Nvidia, Meta und Apple begonnen haben, sich mit diesen „überzeugenden Technologien“ zu befassen. KI steht bereits wegen ihrer Fähigkeit zur Desinformation in der Kritik, beispielsweise für die Manipulation von Bildern während der US-Präsidentschaftswahl.
