KI nimmt in unserer Gesellschaft immer mehr Platz ein. Es dauerte nur kurze Zeit, bis die Technologie in alle Bereiche vordrang und Anlass zur Sorge gab. Insbesondere das von Geoffrey Hinton, Gewinner des Turing-Preises 2018 und des Nobelpreises für Physik 2024 und Pionier auf diesem Gebiet.
- Geoffrey Hinton warnt vor einem Risiko der Ausrottung der Menschheit durch KI mit einer Wahrscheinlichkeit, die er in den nächsten dreißig Jahren auf 10 bis 20 % schätzt
- KI-Pionier kritisiert mangelnde strenge internationale Regulierung und fordert, Unternehmen wie OpenAI mehr Sicherheitsforschung aufzuerlegen
- Einige Experten wie Yann LeCun glauben, dass KI die Menschheit im Gegenteil vor dem Aussterben retten könnte, eine Meinung, die von den Befürchtungen von Geoffrey Hinton abweicht
Geoffrey Hinton ist nicht seine erste besorgniserregende Vorhersage zum Thema KI. Während eines Interviews mit BBC Radio 4Der Experte schätzt, dass die Wahrscheinlichkeit, dass KI in den nächsten dreißig Jahren zum Aussterben der Menschheit führen wird, zwischen 10 und 20 % liegt. Zuvor lag seine Vorhersage bei 10 %.
Warum bedroht KI die Menschheit vom Aussterben?
Im Oktober 2023 warnte Geoffrey Hinton vor X und erklärte, dass eine schlecht regulierte KI eine Chance von eins zu zehn biete, die Menschheit innerhalb von drei Jahrzehnten zu zerstören. Laut einem der Sponsoren von KI ist die Regulierung ein entscheidendes Thema, da es sich um eine beispiellose Situation in der Geschichte handelt: Nie zuvor musste die Menschheit ein Wesen kontrollieren, das intelligenter war als sie selbst.
Geoffrey Hinton erklärt, dass, wenn man mit einem dreijährigen Kind konfrontiert wird, „Wir haben die Kontrolle“, aber wenn man mit einer KI konfrontiert wird, „Wir sind dreifache Kinder“. Der Wissenschaftler ist besonders besorgt des Rennens zugunsten großer Unternehmen (wie OpenAI), was zur Entstehung unkontrollierbarer KI führen könnte. Die Lösung: diesen Unternehmen mehr Sicherheitsforschung durch strenge staatliche Regulierung auferlegen.
Derzeit hat nur Europa mit dem KI-Gesetz eine verbindliche Gesetzgebung verabschiedet. Der Mangel an internationaler Regulierung verlässt Unternehmen sich selbst nach ihren eigenen ethischen Kriterien regulieren. Dies ist eine beispiellose Situation, die für einige Aufregung sorgt. Grok unterliegt beispielsweise nur wenigen Einschränkungen und kann irreführende Bilder von echten Persönlichkeiten des öffentlichen Lebens erzeugen. Was zum Beispiel ein Dall-E ablehnt.
KI, die gefährlichste Erfindung in der Geschichte der Menschheit?
Geoffrey Hintons Position ist im Gegenteil nicht neu. Yoshua Bengio, eine weitere wichtige Persönlichkeit der KI, glaubt, dass diese Technologie ist die gefährlichste Erfindung der Menschheitsgeschichte. Vor der Atombombe? Das scheint so zu sein, sagen besorgte Experten.
Im Februar 2024 findet in Paris eine globale Konferenz zum Thema KI statt. Dies könnte seitdem ein Wendepunkt sein Viele Staatsoberhäupter werden anwesend sein. Auf dem Weg zu einheitlichen internationalen Vorschriften, um den Bedenken der Technologiepioniere Rechnung zu tragen?
Beachten Sie, dass andere Experten optimistischer sind. Yann LeCun, der ebenfalls als einer der Technologiepioniere und Chef-KI-Wissenschaftler bei Meta gilt, glaubt, dass die Technologie könnte uns vor dem Aussterben bewahren. Ganz im Gegenteil zu seinen Kollegen.
