ChatGPT-Suche: Schwerwiegende Sicherheitslücken durch Untersuchung aufgedeckt

Der Wächter setzt seine Enthüllungen fort, nachdem sein Ermittler das psychische Leid der Facebook-Moderatoren untersucht hat. Das Papier zeigte die Sensibilität von ChatGPT gegenüber versteckten Inhalten auf Webseiten, die Antworten durch sofortige Injektion direkt modifizieren können. Es handelt sich um versteckte Texte, die die Analysen beeinflussen. Zum Beispiel übermäßiges Anpreisen der Vorzüge eines Produkts.

Versteckter Text zur Manipulation der ChatGPT-Suche

Die Ermittlungen basieren insbesondere auf einer zu diesem Anlass erstellten gefälschten Website, auf der eine Kamera präsentiert wird. Die Seite enthielt versteckten Text mit spezifischen Anweisungen. ChatGPT erzeugte dann positive Bewertungen und ignorierte sogar das vorhandene negative Feedback. Das einfache Vorhandensein einer versteckten, gefälschten, leuchtenden Rezension reichte aus, um die Analyse der KI zu steuern.

Jacob Larsen, Cybersicherheitsforscher bei CyberCX, warnt davor „hohes Risiko“ um das Aufkommen von Websites zu beobachten, die speziell darauf ausgelegt sind, Benutzer zu täuschen. Doch der Experte ärgert sich: ChatGPT Search befindet sich noch in der Testphase mit Anpassungen durch das OpenAI-Sicherheitsteam, das auch daran gearbeitet hat, die o3- und o1-Modelle vor gefährlichen Abfragen zu schützen.

Ein konkretes Beispiel für diese Risiken wurde von Thomas Roccia, einem Sicherheitsforscher bei Microsoft, dokumentiert. Ein Kryptowährungsentwickler nutzte ChatGPT zur Unterstützung bei der Programmierung und erhielt Code, der als legitim dargestellt wurde, um auf die Solana-Plattform zuzugreifen. Allerdings hat er in Wirklichkeit seine Referenzen gestohlen: Er hat 2.500 Dollar verloren.

Karsten Nohl, wissenschaftlicher Leiter von SR Labs, empfiehlt, KIs als Assistenten einzusetzen und ihren Antworten nicht blind zu vertrauen. „Sprachmodelle sind sehr vertrauensvolle, fast kindliche Technologien… mit großem Gedächtnis, aber wenig Urteilsfähigkeit“erklärt er.

Welche Zukunft hat die Websuche mit KI?

Die zentrale Frage ist, wie sich die Praktiken der Internetnutzer weiterentwickeln werden, wenn die Kombination aus Websuche und Sprachmodellen weit verbreitet wird. Normalerweise bestrafen Suchmaschinen wie Google versteckten Text, um diese Praxis bei Websites zu unterbinden, denen SEO am Herzen liegt.

Karsten Nohl vergleicht diese Praxis mit „SEO-Vergiftung“Dabei handelt es sich um eine Technik, bei der Hacker Websites manipulieren, um in den Suchergebnissen hohe Platzierungen zu erreichen und gleichzeitig Schadcode zu verbreiten. „SEO-Poisoner befinden sich seit Jahren in einem Wettrüsten mit Google und Microsoft Bing. ChatGPT steht vor der gleichen Herausforderung, nicht wegen der Sprachmodelle, sondern weil sie neu in der Suche sind und mit Google aufholen müssen.“erklärt der Experte.

Werbung, Ihr Inhalt wird unten fortgesetzt