John Hopfield, Nobelpreisträger für Physik für seine Forschungen zur künstlichen Intelligenz, warnt vor „sehr besorgniserregenden“ jüngsten Fortschritten in der KI

Er ist einer der Pioniere der künstlichen Intelligenz, was ihn jedoch nicht davon abhält, deren Entwicklung mit einer gewissen Sorge zu beobachten. John Hopfield, amerikanischer Wissenschaftler, der gerade für seine Arbeit zur KI den Nobelpreis für Physik erhalten hat, beurteilte am Dienstag, den 8. Oktober, die jüngsten technologischen Fortschritte in diesem Bereich „sehr besorgniserregend“.

Der Forscher warnte vor einer möglichen Katastrophe, wenn sie nicht unter Kontrolle gebracht würden. Als emeritierter Professor an der Princeton University forderte er ein besseres Verständnis der Funktionsweise dieser Systeme, um zu verhindern, dass sie außer Kontrolle geraten.

Der 91-jährige Forscher sprach per Videokonferenz aus dem Vereinigten Königreich vor einer Versammlung der University of New Jersey und sagte, dass er im Laufe seines Lebens den Aufstieg zweier mächtiger, aber potenziell gefährlicher Technologien miterlebt habe: Biotechnik und Kernphysik. „Wir sind an Technologien gewöhnt, die nicht nur gut oder schlecht sind, sondern in beide Richtungen gehen können“erklärte er.

„Als Physiker beunruhigt mich etwas, das nicht kontrolliert werden kann, etwas, das ich nicht gut genug verstehe, um zu wissen, welche Grenzen dieser Technologie gesetzt werden können.“fügte der Nobelpreisträger hinzu. „Das ist die Frage, die KI stellt“fuhr er fort. Auch wenn moderne KI-Systeme dies zu sein scheinen „absolute Wunder“ihre Funktionsweise ist immer noch kaum verstanden „sehr, sehr besorgniserregend“ laut ihm.

„Fähigkeiten, die Sie sich nicht vorstellen können“

„Deshalb denke ich selbst, genauso wie ich an Geoffrey Hinton denke [co-lauréat du Nobel], setze mich stark für ein besseres Verständnis ein“ Er fuhr fort und fügte hinzu, dass die Domain dies tun würde „Fähigkeiten entwickeln, die über das hinausgehen, was man sich derzeit vorstellen kann“.

Angesichts des kometenhaften Aufstiegs der künstlichen Intelligenz und des harten Wettlaufs zwischen Unternehmen weisen Kritiker darauf hin, dass sich diese Technologie schneller weiterentwickelt, als Wissenschaftler verstehen können.

„Man weiß nicht, ob sich in der Arbeit etwas Spontanes, aber Unerwünschtes verbirgt“bemerkte John Hopfield. Er führte das Beispiel von „Ice-Nine“ an, einem imaginären Material, das der Science-Fiction-Autor Kurt Vonnegut in seinem Buch von 1963 erfunden hatte Die Wiege der Katze. Entwickelt, um Soldaten zu helfen, die gezwungen sind, sich im Schlamm zurechtzufinden, führt es versehentlich dazu, dass sich die Ozeane verfestigen, was zum Verlust der menschlichen Zivilisation führt.

„Ich mache mir Sorgen über alles, was sagt: ‚Ich bin schneller als du, ich bin größer als du‘“sagte John Hopfield.