Giskard, der Hüter der KI-Qualität und -Compliance

Giskard, der Hüter der KI-Qualität und -Compliance
Giskard, der Hüter der KI-Qualität und -Compliance
-

Große Konzerne, die mit der Nutzung von Tools der künstlichen Intelligenz, insbesondere der generativen KI, beginnen, möchten deren Qualität und Konformität überprüfen. Um ihnen dabei zu helfen, diese „technische Kontrolle“ zu erreichen, haben drei ehemalige Ingenieure von Dataiku und Thales Ende 2021 Giskard ins Leben gerufen.

Finanziert durch private Fonds (Elaia Partners und Bessemer Venture Partners), mehrere Business Angels, die Europäische Union (EIC Accelerator) und die öffentliche Bank Bpifrance, hat das Nugget zwei Jahre lang Tools entwickelt, die es ermöglichen, die Qualität der KI zu testen, um Halluzinationen zu vermeiden und ethische Vorurteile und ihr Sicherheitsniveau.

An der Spitze dieser von Giskard entwickelten Tools steht eine Open-Source-KI-Testplattform, auf die Entwickler und Datenwissenschaftler kostenlos zugreifen können. Das junge Unternehmen hat aber auch ein System, den „Giskard Hub“, geschaffen, um die Konformität von Projekten zu überprüfen. Für diesen zweiten Aspekt wird sie bezahlt. Seit Beginn der effektiven Vermarktung Ende 2023 hat das Start-up rund zehn Kunden gewonnen, darunter L’Oréal, Décathlon, Michelin, AXA und mehrere große Bankengruppen.

Ein globaler Markt, der auf 52 Milliarden Euro geschätzt wird

Mit der fortschreitenden Anwendung des AI-Gesetzes, einer Reihe von Maßnahmen, die die Europäische Union am 13. März 2024 verabschiedet hat, um die Entwicklung und Nutzung von LLMs (großes Sprachmodell) zu regeln, verzeichnet Giskard einen Zustrom von Anfragen europäischer Großkunden . „Sie entdecken ein neues Thema und brauchen menschliche Unterstützung und Schulung. Es reicht nicht aus, ihnen nur Software zu geben, mit der sie auskommen können“, sagt Alex Combessie, Präsident von Giskard und Mitbegründer neben Jean-Marie John-Mathews.

Das Risiko besteht darin, dass Europa zwar Vorreiter ist, den Großteil des Geschäfts aber den Amerikanern überlässt.

Für europäische Unternehmen, die vom KI-Gesetz betroffen sind, ist die Herausforderung der Compliance nicht gering. Wer sich nicht an die Regeln hält, muss mit abschreckenden Bußgeldern rechnen, die je nach Vergehen und Unternehmensgröße zwischen 7,5 und 35 Millionen Euro betragen. Die EU ist die erste Region der Welt, die einen Regulierungsrahmen zum Schutz der Öffentlichkeit vor den riskantesten Anwendungen geschaffen hat.

Der Regulierungshorizont wird klarer

Es eröffnet sich ein beträchtlicher Markt für Akteure, von denen erwartet wird, dass sie an der Sicherung, Herstellung zuverlässiger und zertifizierter KI-basierter Systeme arbeiten. Laut einer Studie der Firma EY vom November 2021 wird der Markt für „Trusted AI“ weltweit auf 52 Milliarden Euro geschätzt. Eine Chance für Giskard… Auch wenn das 20-köpfige Start-up damit rechnet, Aufträge vor allem in Frankreich zu gewinnen, wird das Spiel nicht einfach.

Da nun der Regulierungshorizont klarer wird und KI-Projekte umgesetzt werden, nimmt die Konkurrenz aus den USA zu. „Das Risiko besteht darin, dass Europa ein Vorreiter bei der Regulierung von KI ist, aber den Großteil des daraus resultierenden Geschäfts den Amerikanern überlässt“, fasst Alex Combessie zusammen und fügt hinzu, dass es in diesem Kampf nicht an Vermögenswerten europäischer Start-ups mangelt. „Sie profitieren insbesondere von einer Basis europäischer Kunden, die für verantwortungsvolle KI-Themen sensibel sind und sich bereits vor der Abstimmung über das KI-Gesetz an Charta- und Selbstkennzeichnungsprozessen beteiligt haben.“ »

-

PREV Das Apple-Smartphone sinkt bei Amazon weiter im Preis
NEXT Weniger als 520 Euro für ein iPhone 14 im perfekten Sommer, das geht