Der Nobelpreis für Physik warnt: „Es besteht eine Wahrscheinlichkeit von 10 bis 20 %, dass KI in den nächsten 30 Jahren zum Aussterben der Menschheit führen wird.“

In einem Interview mit BBC Radio 4der Forscher nahm kein Blatt vor den Mund: „„Es besteht eine Wahrscheinlichkeit von 10–20 %, dass künstliche Intelligenz innerhalb der nächsten 30 Jahre zum Aussterben der Menschheit führen wird.“ Diese alarmierende Prognose ist keine Premiere. Bereits im Jahr 2023 warnte er, dass die Wahrscheinlichkeit, dass KI ohne Regulierung die menschliche Spezies vernichtet, bei eins zu zehn liegt. In diesem Jahr trat er auch von Google zurück, mit dem Ziel „sich frei über die Risiken der KI äußern können“.

Wettbewerb als Risikofaktor

Für den Nobelpreisträger ist die Notwendigkeit einer internationalen Regulierung von entscheidender Bedeutung. “Noch nie in der Geschichte war ein Mensch in der Lage, etwas Intelligenteres als sich selbst zu kontrollieren.erinnerte er sich. Und die Menschheit mit einem dreijährigen Kind zu vergleichen, das einer übermächtigen KI gegenübersteht. “Wenn wir mit einem Dreijährigen konfrontiert werden, haben wir die Kontrolle. Aber mit KI sind wir die Dreijährigen.“

Die Gefahr liege seiner Meinung nach im harten Wettbewerb zwischen großen Technologieunternehmen, die bereit sind, Gewinne über ethische Bedenken zu stellen. Ohne einen strengen gesetzlichen Rahmen könnten diese Akteure KI-Systeme entwickeln, die sich jeder Kontrolle entziehen.

Erweiterte Soldaten, bewaffnete Drohnen, autonome Waffen: Wie künstliche Intelligenz die Schlachtfelder verändert

Derzeit gibt es nahezu keine Regulierungsvorschriften für KI. Abgesehen vom mutigen europäischen KI-Gesetz gibt es keinen nationalen oder internationalen Rahmen, der verbindliche Grenzen vorgibt. Unternehmen üben daher aus ethischen Gründen Selbstkontrolle aus, diese Dynamik ist jedoch instabil. Das Schlimmste, was passieren könnte, wäre, dass ein Unternehmen beschließt, diese Grundsätze aufzugeben, um mit einem weniger gewissenhaften Konkurrenten gleichzuziehen.

Laut Geoffrey Hinton erfordert die Rettung daher eine strenge Regulierung, die von Regierungen auferlegt wird und sich auf die Sicherheit der Systeme konzentriert. Wenn es der Menschheit gelingt, die Kontrolle zurückzugewinnen, könnte KI zu einem mächtigen Verbündeten werden, der in der Lage ist, die großen Herausforderungen unserer Zeit und die überflüssigen Aufgaben des Alltags zu lösen.