Sicherheit durch künstliche Intelligenz | „Kanada übernimmt die Führung“, sagt Minister Champagne

Kanada wird versuchen, eine Sicherheitsmauer rund um die künstliche Intelligenz (KI) zu errichten, deren Technologie weiterhin mit hoher Geschwindigkeit weiterentwickelt wird, wodurch nicht nur ihr positives Potenzial, sondern auch die Risiken und Gefahren, die sie für das Unternehmen mit sich bringt, erweitert werden.

Der Bundesminister für Innovation, Wissenschaft und Industrie, François-Philippe Champagne, gründete das Canadian Institute for Artificial Intelligence Security (ICSIA), was im letzten Haushalt seiner Regierung versprochen worden war.

„Es ist selten im Leben, dass wir die Chance haben, Zeuge zu werden und zum Fortschritt zum Schutz der Menschheit beizutragen“, sagte er zusammen mit seinem Gründer, Professor Yoshua Bengio, in den Büros von Mila, dem Quebecer Institut für künstliche Intelligenz.

„Schon irgendwohin gegangen und besorgniserregend“

Das Institut wird über einen Zeitraum von fünf Jahren mit einem Budget von 50 Millionen ausgestattet sein und hochrangige Forscher zusammenbringen, die nach Möglichkeiten suchen, Schutzmaßnahmen für diese Technologie zu installieren, die bereits Probleme mit sich bringt, erklärte Professor Bengio. „Es gibt bereits Fehlinformationen. Die Herausforderung besteht darin, dass künstliche Intelligenz Einfluss- und Überzeugungsinstrumente erweitern könnte. Wir sehen es bereits bei Hyperfakes [deep fakes]. »

Experimente mit KI-Tools hätten gezeigt, „dass die Maschine in der Lage ist, einen besseren Einfluss zu nehmen als der Mensch.“ Wir sind bereits besorgniserregend und müssen uns damit befassen.“ Außerdem argumentierte er: „Wir wollen sicherstellen, dass KI von autoritären Regimen nicht auf gefährliche Weise eingesetzt wird und dass sie uns nicht um die Ohren fliegt.“

Das Canadian Institute schließt sich zwei anderen Organisationen dieser Art an, einer in den Vereinigten Staaten und einer im Vereinigten Königreich, und die Ankündigung seiner Gründung erfolgt am Vorabend eines internationalen Gipfels zur Sicherheit künstlicher Intelligenz, der im November stattfinden wird 20 und 21 in San Francisco, USA.

Ängste im Unternehmen

„Kanada übernimmt die Führung, um sicherzustellen, dass wir über eine Technologie verfügen, die der Menschheit dient und über eine Reihe von Regeln und Rahmenbedingungen verfügt“, sagte Herr Champagne.

Kanada hinke bei der Integration künstlicher Intelligenz in verschiedenen Wirtschaftssektoren etwas hinterher und die Ängste, die sie weckt, hängen nicht ohne diese Verzögerung zusammen, argumentierte der Präsident und CEO des Institute Canadian Advanced Research Institute (CIFAR), Stephen Toope. „Mehrere Unternehmensführer haben uns gesagt, dass sie Sicherheit und ein strenges regulatorisches Umfeld benötigen, um bei der Einführung von KI sicher zu sein. » CIFAR wird für die Forschungskomponente des Instituts verantwortlich sein.

„Wenn wir von der Angst zur Chance übergehen wollen, müssen wir Vertrauen aufbauen“, argumentierte Minister Champagne. Und die Auswirkungen dieser Zuversicht werden in immer mehr Aspekten des Alltagslebens der Kanadier spürbar sein, wie er illustrierte: „Es ist uns egal, ob künstliche Intelligenz Ihnen dabei hilft, an einem Donnerstagabend mit Ihrer Familie die beste Pizza auszuwählen, die Sie sich wünschen, aber Wir sind besorgt über die künstliche Intelligenz, die darüber entscheiden wird, ob Sie einen Kredit haben oder ob Sie beispielsweise eine Versicherungspolice haben oder im Notfall, ob wir Ihnen einen Job anbieten, denn dort kann es sein Abweichungen gibt es und das wollen wir verhindern. »

Arbeiten Sie vorgelagert

Yoshua Bengio ist sich bewusst, dass die Aufgabe schwierig sein wird. „Wir müssen mit (KI-)Unternehmen zusammenarbeiten, um diese Risiken zu bewerten und diese Risiken zu mindern. Ich denke an die Probleme der Ausrichtung – wie wir sicherstellen, dass sich die KI so verhält, dass sie unseren Absichten, unseren Gesetzen entspricht – und der Kontrolle, sodass sie beispielsweise in die Richtung handelt, die wir wollen im Kontext von Cybersicherheit und Desinformation. »

Der Experte sieht Interventionsmöglichkeiten zunächst direkt bei der Herstellung von KI-Systemen. „Wenn das KI-System mit Sicherheitsvorkehrungen ausgestattet ist, die verhindern, dass es für die Demokratie gefährliche Inhalte produziert, ist das giftig.“ [il donne l’exemple de la pornographie juvénile]Es gibt Dinge, die wir technisch im Vorfeld erledigen können. » Die Entwickler dieser Systeme sollten daher den Einsatz „für Länder, die sie gegen uns einsetzen wollen“, erschweren. Es ist ein wichtiges Sicherheitsproblem, es ist ein Designproblem für diese Systeme“, sagt er.

Plattformen entmachtet

Ein anderer Teil des Problems liege nicht in den Händen der Entwickler dieser Systeme, sondern in denen der Webgiganten, die alles durchgehen ließen, bedauert Herr Bengio. „Die Plattformen sollten eine Verantwortung tragen. Heute befinden sie sich in einer Art Grauzone. […] Es ist so einfach, auf einer dieser Plattformen ein Konto zu erstellen und dies anonym zu tun. Es ist klar, dass dies eine offene Tür für Gruppen ist, die unsere Demokratien destabilisieren wollen. »

Ein Teil der Lösung, schlägt er vor, könnte durchaus in der KI selbst liegen. „Auf der technologischen Seite gibt es Forscher, die versuchen herauszufinden, wie wir mithilfe von KI erkennen können, dass Inhalte falsch oder irreführend sind oder gegen bestimmte Standards verstoßen. »

Ein weiteres Problem der KI ist die Verwendung urheberrechtlich geschützter Inhalte. KI-Tools wie ChatGPT sind beispielsweise auf das Lesen von Zeitungen und Büchern aller Art trainiert. Diese Frage sei international in aller Munde, erkennt Yoshua Bengio. „Es laufen Gerichtsverfahren. Das ist keine einfache Frage. Wir hoffen, dass es so schnell wie möglich auf eine Weise zusammenkommt, die sowohl Innovationen ermöglicht als auch diejenigen schützt, die Inhalte erstellen. »

Und in Kanada? Minister Champagne geht in dieser Frage nur mit größter Vorsicht voran. „In diesen Modellen wird häufig geistiges Eigentum genutzt, und an diesem Punkt stellt sich die Frage: Wie entlohnen wir diejenigen, die die Rechte an diesem geistigen Eigentum haben?“ Künstliche Intelligenz unterliegt dem Urheberrecht. Es handelt sich um eine neue Technologie, die jedoch nicht die Grundprinzipien aufhebt, die es schon immer gab. Wir führen derzeit eine öffentliche Konsultation in Kanada durch, um genau dieses Problem anzugehen“, erklärt Herr Champagne.