Google erringt weltweit den ersten Platz, da KI eine 0-Day-Sicherheitslücke findet

Ein KI-Agent hat eine bisher unbekannte, ausnutzbare Zero-Day-Sicherheitslücke in der Speichersicherheit in weit verbreiteter realer Software entdeckt. Laut Googles Project Zero und DeepMind, den Kräften hinter Big Sleep, dem großsprachlichen modellgestützten Schwachstellenagenten, der die Schwachstelle entdeckt hat, handelt es sich um das erste, zumindest veröffentlichte Beispiel eines solchen Fundes.

Wenn Sie nicht wissen, was Project Zero ist, und nicht beeindruckt waren von dem, was es im Sicherheitsbereich erreicht hat, dann haben Sie in den letzten Jahren einfach nicht aufgepasst. Diese Elite-Hacker und Sicherheitsforscher arbeiten unermüdlich daran, Zero-Day-Schwachstellen in den Produkten von Google und darüber hinaus aufzudecken. Der gleiche Vorwurf der mangelnden Aufmerksamkeit gilt, wenn Sie DeepMind, die KI-Forschungslabore von Google, nicht kennen. Als sich diese beiden Technologiegiganten zusammenschlossen, um Big Sleep zu erschaffen, mussten sie Wellen schlagen.

ForbesWie Anxiety die 10-Milliarden-Dollar-Startup-KI-Deepfake-Hacker besiegteVon Davey Winder

Google verwendet ein großes Sprachmodell, um Zero-Day-Schwachstellen in realem Code zu erkennen

In einer Ankündigung vom 1. November bestätigte Googles Project Zero-Blog, dass sich das vom großen Sprachmodell Project Naptime unterstützte Forschungsrahmenwerk für Sicherheitslücken zu Big Sleep entwickelt hat. Diese gemeinsame Anstrengung, an der einige der besten ethischen Hacker im Rahmen von Project Zero und die besten KI-Forscher im Rahmen von Google DeepMind beteiligt sind, hat einen großen, sprachmodellbasierten Agenten entwickelt, der sehr reale Sicherheitslücken aufdecken kann in weit verbreitetem Code. Im Fall dieser Weltneuheit sagte das Big Sleep-Team, es habe „einen ausnutzbaren Stapelpufferunterlauf in SQLite, einer weit verbreiteten Open-Source-Datenbank-Engine“, gefunden.

Die Zero-Day-Schwachstelle wurde dem SQLite-Entwicklungsteam im Oktober gemeldet, das sie noch am selben Tag behob. „Wir haben dieses Problem entdeckt, bevor es in einer offiziellen Version erschien“, sagte das Big Sleep-Team von Google, „also waren SQLite-Benutzer nicht betroffen.“

KI könnte die Zukunft des Fuzzing sein, sagt das Google Big Sleep-Team

Auch wenn Sie den Begriff „Fuzzing“ vielleicht noch nie gehört haben, gehört er schon seit Jahrzehnten zum festen Bestandteil der Sicherheitsforschung. Unter Fuzzing versteht man die Verwendung zufälliger Daten, um Fehler im Code auszulösen. Obwohl der Einsatz von Fuzzing weithin als unverzichtbares Werkzeug für diejenigen gilt, die nach Schwachstellen im Code suchen, geben Hacker ohne weiteres zu, dass damit nicht alles gefunden werden kann. „Wir brauchen einen Ansatz, der Verteidigern helfen kann, die Fehler zu finden, die durch Fuzzing nur schwer (oder gar nicht) zu finden sind“, sagte das Big Sleep-Team und fügte hinzu, es hoffe, dass KI die Lücke schließen und „Schwachstellen in der Software finden kann, bevor sie überhaupt vorhanden sind“. „freigegeben“ und lässt den Angreifern wenig Spielraum für Angriffe.

ForbesNeue Warnung vor Cyberangriffen: Die Bestätigung, dass Sie kein Roboter sind, kann gefährlich seinVon Davey Winder

„Das Finden einer Schwachstelle in einem weit verbreiteten und gut untersuchten Open-Source-Projekt ist ein aufregendes Ergebnis“, sagte das Google Big Sleep-Team, gab jedoch zu, dass die Ergebnisse derzeit „sehr experimentell“ seien. Derzeit gilt der Big-Sleep-Agent als nur so effektiv wie ein zielspezifischer Fuzzer. Es ist jedoch die nahe Zukunft, die rosig aussieht. „Diese Bemühungen werden den Verteidigern einen erheblichen Vorteil verschaffen“, sagte das Big Sleep-Team von Google, „mit dem Potenzial, nicht nur abstürzende Testfälle zu finden, sondern auch eine qualitativ hochwertige Ursachenanalyse, Triage und Behebung von Problemen bereitzustellen, könnte es viel sein.“ in Zukunft günstiger und effektiver.“