Generative KI ist auch das Geschäft von Philosophen – Libération

Während der Nobelpreis für Physik gerade an die beiden Pioniere des maschinellen Lernens verliehen wurde und einer von ihnen vor den Gefahren der Entwicklung generativer KI warnte, stellt sich die Frage: Welche Menschheit wollen wir? Laut der Philosophin Elsa Godart müssen Philosophen neben Informatikern, Juristen und Ökonomen an der globalen ethischen Reflexion teilnehmen.

Der Nobelpreis für Physik wurde gerade am 8. Oktober 2024 an John Hopfield und Geoffrey Hinton für ihre Arbeit zum „maschinellen Lernen“ verliehen, die die Entwicklung ermöglichte tiefes Lernen – „Deep Learning“ – was generative KI-Systeme auszeichnet. „Unter den gleichen Umständen würde ich dasselbe tun [ses recherches, ndlr]. Aber ich befürchte, dass die Gesamtkonsequenz all dessen sein wird, dass Systeme, die intelligenter sind als wir, irgendwann die Kontrolle übernehmen werden.“ gab Hinton zu, als seine Auszeichnung bekannt gegeben wurde. Nachdem er rund zehn Jahre für Google (Google Brain) gearbeitet hatte, verließ er das Unternehmen im Jahr 2023, um frei über die Risiken durch KI sprechen zu können.

In einem Interview mit CBS am 25. März 2023 zögerte er nicht, dies zu bestätigen „Dass es nicht undenkbar ist, dass KI die Menschheit auslöschen könnte.“ Bereits 2017 forderte er ein internationales Verbot tödlicher autonomer Waffen. Und seitdem setzt er sich weiterhin dafür ein, dass umfassende Überlegungen zur Steuerung der generativen KI angestellt werden können. Im Rahmen derselben besorgniserregenden Bewegung wurde im Oktober 2023 der internationale Dialog über KI-Sicherheit (Idais) von zwei Turing-Preisträgern, Yoshua Be, ins Leben gerufen