Mehrere Internetnutzer, die das Tool mit grundlegenden Fragen testen wollten, erhielten gelinde gesagt exzentrische Antworten. Die Designer von „Lucie“ bekräftigen, dass es sich nur um eine erste Version handelt, die sich weiterentwickeln wird.
Die Testphase wurde abgebrochen. Die künstliche Intelligenz „Lucie“, die am Donnerstag für ein einmonatiges Experiment gestartet wurde und von der Firma Linagora in Zusammenarbeit mit dem CNRS und mit Unterstützung des Staates entwickelt wurde, wurde „vorübergehend“ geschlossen, nachdem sie in sozialen Netzwerken zum Gegenstand von Spott geworden war, so ihre Designer bekannt gegeben am Samstag, 25. Januar.
Diese künstliche Intelligenz, die als „das erste Modell“ der generativen Open-Source-KI in Frankreich vorgestellt wird und „auf gemeinsame europäische Werte“ ausgerichtet ist und „im Jahr 2025 an die Welt der Bildung angepasst werden soll“, hat die ersten Nutzer tatsächlich noch lange nicht überzeugt. Und das aus gutem Grund: Einige von ihnen, die das Tool mit grundlegenden Fragen testen wollten, erhielten völlig falsche oder sogar völlig verrückte Antworten.
Dies ist beispielsweise bei diesem Internetnutzer der Fall, der die KI gebeten hat, die Operation „5(3+2)“ auszuführen. Antwort von „Lucie“: 17. Und wenn man ihn bittet, die Argumentation, die ihn zu einem solchen Ergebnis geführt hat, im Detail darzulegen, ist die Antwort ebenso unwahrscheinlich. Zumal die KI dieses Mal das Ergebnis „50“ erreicht.
Zu einem anderen Internetnutzer, der sie bittet, ihm von Kuheiern zu erzählen, sagt „Lucie“, dass „Kuheier, auch Hühnereier genannt, essbare Eier sind, die von Kühen produziert werden“.
-Als Antwort auf andere Nutzer erwähnt „Lucie“ die Rolle des Herodes bei der Entwicklung der Atombombe, versichert, dass es im englischen Wort „strawberry“ nur ein „r“ anstelle von drei gebe, und behauptet, dass die „Quadratwurzel einer Ziege ist 1″. Mehr als überraschende Antworten für ein Tool, das „besonders transparent und zuverlässig“ sein soll und „ein Modell sein soll, auf das man sich verlassen kann“, sei es in der Bildung, in der Regierung oder in der Forschung.
Ein weiteres „Rohmodell“
Angesichts der Kritik und anderen Spotts kündigte das Unternehmen Linagora an, „den Zugang zur Lucie.chat-Plattform vorübergehend zu sperren“. Das Unternehmen betonte ausdrücklich, dass es sich bei „Lucie“ „vor allem um ein akademisches Forschungsprojekt handelt, das darauf abzielt, die Fähigkeiten der Entwicklung generativer KI-Digital-Commons zu demonstrieren“. „Bisher wurden keine konkreten Arbeiten mit National Education durchgeführt, um das Modell für den Bildungsgebrauch zu personalisieren oder anzupassen“, betont sie.
Linagora, der diese KI mit der OpenLLM-France-Community im Rahmen eines Projektaufrufs für Frankreich 2030 entwickelt hat, fügt hinzu, dass „Lucie“ immer noch ein „Rohmodell“ sei. Daher arbeitet es in diesem Stadium „mit minimalen Einstellungen“ und verfügt nicht über „Schutzmaßnahmen“, um „unangemessene Verwendungen“ zu verhindern. „Die von LUCIE generierten Antworten sind daher nicht garantiert und einige enthalten Vorurteile und Fehler“, räumt das Unternehmen ein.
Die Macher der KI sagen, sie hätten „falsch gedacht, dass eine öffentliche Veröffentlichung der Lucie.chat-Plattform im Sinne der Offenheit und Mitkonstruktion von Open-Source-Projekten dennoch möglich sei“. Aber „wir wissen natürlich, dass die ‚Schlussfolgerungs‘-Fähigkeiten (auch bei einfachen mathematischen Problemen) oder sogar die Fähigkeit, Code der aktuellen Version von ‚Lucie‘ zu generieren, unbefriedigend sind“, fahren sie fort und sind der Meinung, dass sie „die Benutzer darüber hätten informieren sollen.“ die Plattform dieser Grenzen so zu gestalten, dass keine unnötigen Wartezeiten entstehen.“ Aus all diesen Gründen zogen es die Macher vor, den Zugang zur Plattform vorübergehend zu sperren, um sich die Zeit zu nehmen, „ihren Ansatz besser zu erklären“. In der Zwischenzeit fordern sie, „die Arbeit von Forschern und Ingenieuren zu respektieren, die an der Entwicklung vertrauenswürdiger, ethischerer und transparenterer KI-Systeme arbeiten“.
