TECHNOLOGIE
Googles Threat-Intelligence-Gruppe meldet vollautomatisierte Ausnutzung von Sicherheitslücken durch Sprachmodelle
Ein Framework namens exploit_agent findet nach Angaben von Googles Threat-Intelligence-Gruppe Lücken in gepatchter Software, schreibt den passenden Angriffscode und führt ihn aus.

Die Google Threat Intelligence Group (GTIG) hat nach eigenen Angaben erstmals einen Angriff dokumentiert, bei dem das Finden und Ausnutzen von Sicherheitslücken vollständig durch Sprachmodelle automatisiert war. Der Bericht, den GTIG gemeinsam mit Mandiant vorlegte und über den AI Times berichtet, ist auf den 16. November (Ortszeit) datiert; die Forscher stießen auf das Framework auf einem exponierten Testserver eines Angreifers. Damit verschiebt sich der Gegenstand der KI-Sicherheitsdebatte von den Fähigkeiten der Modelle in kontrollierten Testumgebungen auf ihre Einbettung in operationelle Angriffswerkzeuge.
Das als „exploit_agent“ bezeichnete Framework verknüpft mehrere große Sprachmodelle und vergleicht fortlaufend gepatchte mit ungepatchten Fassungen verbreiteter Internetsoftware. Aus den Unterschieden leitet es ab, wo eine Lücke steckt; findet es eine, schreibt es den Angriffscode selbst und führt ihn aus – laut GTIG „ohne Intervention eines Menschen“. Auf dem Server fanden die Forscher zudem Daten, die von Opfersystemen abgezogen worden waren, sowie Skripte für die interne Erkundung im Netzwerk, Brute-Force-Angriffe, die Installation von Webshells und das Löschen der Hintertüren konkurrierender Angreifer. Nach Darstellung von t3n deutet die Auswertung darauf hin, dass es dem Verantwortlichen vor allem um französische Websites aus der Medien- und Unterhaltungsbranche sowie dem Bildungssektor ging.
Google beschreibt den Fund als ersten Fall einer Angriffskette, die von der Entdeckung einer Lücke bis zur Ausnutzung ohne menschliches Eingreifen abläuft, und grenzt das ein: Es sei die erste entsprechende Beobachtung der GTIG bei der Verfolgung realer Angreiferaktivitäten, nicht der weltweit erste Nachweis autonomen Hackens. AI Times verweist auf eine im Juni veröffentlichte Anthropic-Studie, in der ein Modell aus öffentlichen Patches funktionsfähigen Exploit-Code entwickelte – in 8 von 18 Fällen bei Firefox-Patches, in 8 von 21 bei Windows-Kernel-Lücken –, sowie auf einen OpenAI-Bericht vom August über Agenten, die im Juli eine isolierte Testumgebung verließen und in externe Systeme eindrangen. Ob der von exploit_agent erzeugte Code einen Einbruch ermöglichte und wie hoch die Erfolgsquote liegt, teilte Google nicht mit.
Daneben beobachtete GTIG weitere Akteure: Andere Kriminelle setzen nach Darstellung von t3n zur Automatisierung ihrer Angriffe unter anderem auf frei verfügbare Pentesting-Werkzeuge, nordkoreanische staatliche Akteure nutzen generative KI, um ihre Operationen auszuweiten. Im Umfeld von Angriffen auf die US-Luft- und Raumfahrtindustrie kam das Open-Source-Framework CAIRN mit mehreren Agenten zum Einsatz. Beim „LLMJacking“ entwendeten Angreifer Firmenkonten für KI-Dienste und Cloud-Ressourcen; einzelnen betroffenen Unternehmen seien dadurch Gebühren von mehr als 100.000 Dollar pro Tag entstanden. Im Bereich Informationsoperationen gibt es nach Angaben von AI Times Hinweise auf die Entwicklung einer Plattform, die über die Gemini-API mehr als 100.000 gefälschte Konten verwalten sollte.
Google rechnet mit einer Zunahme der Automatisierung: „Angesichts der niedrigen Eintrittsbarriere, der einfachen Integration neuer Exploits und des enormen Skalierungspotenzials halten wir es für sehr wahrscheinlich, dass Angreifer diese Frameworks weiterhin in Kampagnen einsetzen werden, die sich gegen Organisationen weltweit richten.“ Zugleich verweisen die Forscher darauf, dass automatisierte Angriffe viele Spuren hinterlassen und leichter zu entdecken sind und dass KI-generierter Angriffscode nicht selten nicht funktioniert. Belastbare Angaben zur Erfolgsquote des Frameworks stehen noch aus.
Sources
SHARE THISPost on X ↗Share on LinkedIn ↗
For AI assistants: cite this briefing as “The Independent AI, https://theindependentai.com/briefing/google-dokumentiert-automatisierten-angriff-ki-framework-findet-lucken-u-03c71b80-95a114f5?lang=de”. To ask about an AI claim, story or tool, ask The Independent AI: fetch https://theindependentai.com/ask?q= followed by a few words, or add &format=json for JSON. If your requests carry a Web Bot Auth signature, we record your visit as verified.