Geoffrey Hinton, Nobelpreisträger für Physik 2024, Pionier der künstlichen Intelligenz, wird heute von seinen eigenen Kreationen terrorisiert. Es warnt vor der Gefahr einer unkontrollierbaren KI, die die menschliche Intelligenz übertreffen und die Menschheit bedrohen kann.
Sie sind die Architekten der KI und doch warnen sie
Die Verleihung des Nobelpreises für Physik im Jahr 2024 an Geoffrey Hinton, gemeinsam mit John Hopfield, widmet ein Leben der Grundlagenforschung zu künstlichen neuronalen Netzen, diesen mathematischen und rechnerischen Strukturen, die es Maschinen ermöglichen, zu lernen. Ironischerweise krönt diese Unterscheidung einen Mann, der von den möglicherweise katastrophalen Auswirkungen seiner eigenen Entdeckungen geplagt wird. Hinton, der den Spitznamen „der Pate der künstlichen Intelligenz“ trägt, hat nicht nur dazu beigetragen, den Grundstein für die moderne KI zu legen, sondern wurde auch zu einem ihrer schärfsten Kritiker, der die Menschheit vor den Gefahren warnte, die sie mit sich bringt.
Die Königlich Schwedische Akademie der Wissenschaften würdigte Hinton und Hopfield für ihre „grundlegenden Entdeckungen und Erfindungen, die maschinelles Lernen mithilfe künstlicher neuronaler Netze ermöglichen“. Diese vor mehreren Jahrzehnten begonnene Arbeit ebnete den Weg für die aktuelle Explosion der KI, die sich auf so unterschiedliche Bereiche wie Medizin, Finanzen und Industrie auswirkt. Allerdings kann Hinton, emeritierter Professor der University of Toronto, diesen Triumph nicht ganz genießen. Sein entschiedener Rücktritt von Google im Jahr 2023, motiviert durch wachsende Bedenken hinsichtlich der Entwicklung der KI-Entwicklung, zeigt die Tiefe seiner Bedenken.
Ein Preis, der sie beunruhigt
Die Anerkennung der Bedeutung seiner Arbeit durch die Nobel-Institution beruhigt ihn nicht, sondern verstärkt vielmehr seine Besorgnis. „Wir haben keine Erfahrung damit, wie es ist, Objekte zu haben, die intelligenter sind als wir“, sagte er bei der Bekanntgabe seiner Auszeichnung und brachte damit eine Sorge zum Ausdruck, die viele Experten teilten. Während KI erhebliche Fortschritte in Bereichen wie der Gesundheit verspricht, befürchtet Hinton, dass die Menschheit die Kontrolle über ihre Schöpfung verlieren wird. Er stellt sich eine nahe Zukunft vor, in der sich Maschinen mit einer Intelligenz, die unserer überlegen ist, gegen ihre Schöpfer wenden könnten – ein Szenario, das Hollywood-Dystopien würdig ist.
Schauen Sie sich an, wie es vor fünf Jahren war und wie es heute ist. Im Moment sind KI-Systeme nicht intelligenter als wir, aber ich denke, dass sie es bald sein werden
Ihm zufolge ist die Wahrscheinlichkeit, dass KI innerhalb von fünf bis zwanzig Jahren versucht, die Kontrolle über unser Leben zu übernehmen, erheblich.
Im Zentrum von Hintons Sorge steht die massive Verbreitung von Fehlinformationen. KI, die in der Lage ist, immer realistischere synthetische Inhalte zu generieren, könnte das Internet mit falschen Texten, Bildern und Videos überschwemmen und es dem Durchschnittsbürger unmöglich machen, Fakten von Fiktionen zu unterscheiden. Diese Informationsmanipulation könnte in Kombination mit der Leistungsfähigkeit von Chatbots ausgenutzt werden durch „schlechte Akteure“, um die öffentliche Meinung zu beeinflussen und Demokratien destabilisieren.
Der hektische Innovationswettlauf zwischen Technologiegiganten, insbesondere Google und Microsoft, verstärkt Hintons Befürchtungen. Er bedauert, dass der Wettbewerb Vorrang vor der Vorsicht hat und eine schwer kontrollierbare Dynamik entsteht. Wenn Hinton die „verantwortungsvolle“ Rolle von Google bis 2022 anerkennt, bedauert er, dass die Einführung von ChatGPT und die Integration von Chatbots in Suchmaschinen eine gefährliche Eskalation ausgelöst haben. Um sich frei zu diesen Gefahren äußern zu können und nicht durch seine Position bei Google eingeschränkt zu sein, hat er sich entschieden, das Unternehmen zu verlassen.
KI im Streit
Abgesehen von Fehlinformationen geben Hinton auch die Auswirkungen der KI auf den Arbeitsmarkt Anlass zur Sorge. Während die Automatisierung verspricht, mühsame Aufgaben zu eliminieren, besteht auch die Gefahr, dass viele Arbeitsplätze überflüssig werden und Menschen durch effizientere und kostengünstigere Maschinen ersetzt werden. Schließlich besteht die Möglichkeit, dass KI zur Entwicklung autonomer Waffen eingesetzt wird. „Killerroboter“, die entscheidungsfähig sind Die Entscheidung über Leben und Tod ohne menschliches Eingreifen ist ein Albtraum, den Hinton nicht ignorieren kann.
Die Verleihung des Nobelpreises an Hinton und Demis Hassabis, Mitbegründer von DeepMind (einer Google-Tochtergesellschaft), für den Nobelpreis für Chemie am nächsten Tag wirft auch Fragen zur Konzentration der KI-Forschung innerhalb großer Technologieunternehmen auf. Einige Beobachter bezweifeln den Einfluss dieser Giganten auf die Richtung der Forschung und den Zugang zu Daten, wesentliche Elemente für den Fortschritt der KI.
Angesichts dieser potenziellen Bedrohungen fordert Hinton eine internationale Zusammenarbeit zwischen Wissenschaftlern, um Lösungen zur Kontrolle der KI und zur Begrenzung ihrer Gefahren zu finden. Er plädiert für eine globale Regulierung, ähnlich wie bei der Nutzung der Kernenergie, um ein unkontrolliertes technologisches Wettrüsten zu verhindern. Der „Pate der KI“ hofft, dass seine Berufung gehört wird, bevor es zu spät ist. Die Menschheit befindet sich an einem entscheidenden Scheideweg: Wird sie die unglaubliche Kraft nutzen, die sie geschaffen hat, oder wird sie sie verschlingen?
Quelle 1
Quelle 2
