Der Bewertungsausschuss, der für die Bewertung des Einsatzes der bei den Olympischen Spielen 2024 in Paris getesteten algorithmischen Videoüberwachung (VSA) verantwortlich ist, äußert in einem von konsultierten Bericht Zweifel an der Wirksamkeit des Geräts Die Welt und franceinfo Mittwoch, 15. Januar. Dieser Bericht wurde am Dienstag dem Innenministerium vorgelegt.
Zur Erinnerung: Bei der algorithmischen Videoüberwachung handelt es sich um eine Technologie, die auf mit Überwachungskameras verbundener Software basiert, um verdächtige oder gefährdete Ereignisse zu identifizieren, bevor ein Bediener in Echtzeit alarmiert wird. Während der Olympischen Spiele getestet, erwägt die Regierung seitdem eine Verallgemeinerung des Systems. Der Gesetzestext sieht bereits eine Verlängerung bis zum 31. März 2025 vor. Matignon gab an, für seine Entscheidung auf den Bericht des Bewertungsausschusses zu warten.
In diesem Bericht von rund hundert Seiten, der von franceinfo und der Agentur Radio France konsultiert wurde, geht es hervor „dass der Einsatz der im Rahmen des Experiments implementierten algorithmischen Verarbeitung zu ungleichen technischen Leistungen führte, die je nach Bedienern und Anwendungsfällen, Nutzungskontexten sowie den Merkmalen der Techniken und der Kamerapositionierung stark variieren.“
Der Ausschuss ist der Ansicht, dass das Gerät im Kontext des Experiments von Interesse ist „Hängt weitgehend vom Nutzungskontext ab“. Unter den Schlussfolgerungen kommt das Komitee zu dem Schluss, dass die VSA beispielsweise „weniger effektiv, wenn wenig Licht vorhanden ist“ und die Ergebnisse sind relevanter „in geschlossenen oder halbgeschlossenen Räumen, insbesondere U-Bahn-Korridoren und -Stationen, im Vergleich zu den Ergebnissen, die in offenen Räumen beobachtet wurden“.
Die technischen Leistungen des Geräts sind „insgesamt zufriedenstellend“ für bestimmte Anwendungsfälle wie z „das Eindringen von Personen oder Fahrzeugen in einen nicht autorisierten Bereich, Verkehr in eine nicht autorisierte Richtung oder sogar die Menschendichte“. Allerdings mit einigen Vorbehalten. Was zum Beispiel die Bevölkerungsdichte betrifft, „Die Software hatte manchmal Schwierigkeiten, zu viele Personen zu zählen (…), aufgrund der Höhe der Kameras.“ Das Gerät erscheint tatsächlich „weniger effektiv, wenn die Kameras zu nah am Publikum sind und die Körper nicht vollständig sichtbar sind.“ In Bezug auf Menschenmengenbewegungen ist die Wirksamkeit des Geräts gering „Schwer einzuschätzen“erklärt den Bericht. „Die wenigen Rückmeldungen zeigen die Schwierigkeiten bei der Identifizierung realer Bewegungen. Die Verarbeitung kann insbesondere Gruppen von Personen, die sich in die gleiche Richtung bewegen, ohne besondere Eile assimilieren. Es ist schwierig, Gruppierungen oder Gruppierungsbewegungen zu definieren. schnelle Ausbreitung.
Ein weiterer Punkt, der im Bericht hervorgehoben wird, sind verlassene Objekte. Bewertet werden Leistungen „sehr ungleichmäßig“. Es besteht beispielsweise eine Verwechslung zwischen unbeaufsichtigten Objekten und solchen, deren Anwesenheit auf dem Gelände nicht ungewöhnlich ist: „Die Behandlung erfasst somit regelmäßig Straßenmobiliar (Bänke, Paneele) oder auch Reinigungsgeräte (Mülleimer, Eimer und Reinigungsmaschinen) und andere feste oder gewöhnliche Gegenstände. Noch schlimmer ist, dass es manchmal Menschen assimiliert, die sitzen oder sich nicht bewegen, insbesondere Obdachlose.
Trotzdem heißt es im Bericht „Die betroffenen Akteure sind grundsätzlich mit der Umsetzung des Systems zufrieden.“ „Die Integration von KI-Kamerabildschirmen in Kommandoräumen trug, als sie realisiert wurde, dazu bei, die Komplementarität von herkömmlichen Kameras und KI-Kameras zu fördern.“
Für den Ausschuss, „Aufgabe, Verlängerung oder Fortdauer“ des Geräts ist „eine politische Entscheidung“ was nicht in seinen Aufgabenbereich fällt. Der Ausschuss ist jedoch der Ansicht, dass, wenn dieses System eingeführt wird, „Besondere Wachsamkeit ist erforderlich (…), insbesondere um jeglichem Risiko eines Missbrauchs rechtlicher Zwecke oder, noch grundlegender, einer Gewöhnung an den Einsatz dieser Technologie zu Überwachungszwecken vorzubeugen.“
Wenn das Experiment verlängert oder dauerhaft gemacht wird, hält es das Komitee für wichtig, dass die “Gesetzgeber” bekräftigt mehrere allgemeine Grundsätze wie z „die Kontrolle der Parlamentarier im Vorfeld und die Weiterleitung von Dekretentwürfen, die der CNIL vorgelegt werden“. Weitere zu bekräftigende Grundsätze: „Das Verbot der Gesichtserkennung außerhalb des juristischen Kontexts die ständige Bewertung der Fragen der öffentlichen Freiheiten und Grundrechte“oder auch „Die Öffentlichkeit klar über den genauen Umfang des Einsatzes von mit KI ausgestatteten Kameras im Hinblick auf ihr Zugangsrecht zu informieren.“ „Es ist wichtig“, betont der Ausschuss, „dass die bereitgestellten Informationen ausreichen, um sicherzustellen, dass die Öffentlichkeit informiert ist und dass sie die ihr durch europäisches Recht und nationale Gesetzgebung zuerkannten Rechte kennt.“
Laurent Nuñez, der Pariser Polizeichef, sagte in einem Artikel in Le Parisien, er sei für die Verallgemeinerung des Systems, ebenso wie das Innenministerium und der Verkehrsminister Philippe Tabarot. Vereinigungen, die sich für die Verteidigung der Freiheiten einsetzen, befürchten ihrerseits eine umfassende Überwachung trotz der bisher von der Regierung festgelegten roten Linie: dem Einsatz von Gesichtserkennung.
