Maschinen gegen Maschinen: Der autonome Cyberkampf

Maschinen gegen Maschinen : Der autonome Cyberkampf

Um sich gegen autonome KI-Hackerangriffe wie im Fall Hugging Face zu verteidigen, wird künftig noch viel mehr Künstliche Intelligenz zum Einsatz kommen. Das bringt seine eigenen Herausforderungen mit sich.

Den Zeitpunkt hat Microsoft clever gewählt. Am Dienstag stellte der amerikanische Softwarekonzern „Project Perception“ vor, ein IT-Sicherheitssystem, das mithilfe Künstlicher Intelligenz automatisch potentielle Angriffswege und Schwachstellen identifizieren, Risiken bewerten und Gegenmaßnahmen umsetzen soll. „Autonome Systeme können heute schlussfolgern, sind anpassungsfähig und können allein agieren“, schreibt Microsofts IT-Sicherheitsmanagerin Hayete Gallot dazu in einem Blogbeitrag. Die Kosten für Angriffe sänken, gleichzeitig nähmen Umfang und Komplexität der zu schützenden Systeme zu. Ansätze der Verteidigung, die für eine Welt menschlicher Akteure entwickelt wurden, könnten in einer Welt der KI und Angriffe in Maschinengeschwindigkeit nicht mehr Schritt halten.

KI gegen KI, daran scheint nach dem bemerkenswerten Sicherheitsvorfall beim ChatGPT-Entwickler Open AI in der Cybersicherheit kein Weg vorbeizuführen. Mitte Juli hatten sich KI-Modelle von Open AI während eines internen Tests verselbständigt und eigenständig einen Hackerangriff auf die beliebte Entwicklerplattform Hugging Face ausgeführt. Die meisten IT-Sicherheitsfachleute haben einen derartigen KI-Cyberangriff schon länger nur für eine Frage der Zeit gehalten. Trotzdem stellen sich große Fragen: Kann jetzt jedes System von autonomen KI-Hackerangriffen getroffen werden? Wie gefährlich sind solche Angriffe für Unternehmen, für Behörden, für kritische Infrastruktur? Und wie können sie sich schützen?

Keine neue Form des Hackings, sondern eine Beschleunigung

„Unternehmen und Betreiber kritischer Infrastrukturen sind durch KI nicht plötzlich schutzlos“, sagt der ehemalige NSA-Agent Jay Kaplan, der heute das Unternehmen Synack leitet. Synack verkauft Cybersicherheitschecks für Unternehmen. Allerdings verkürze sich die Zeitspanne zur Erkennung und Eindämmung eines Angriffs erheblich. Die größte unmittelbare Gefahr bestehe nicht in einer völlig neuen Form des Hackings, sondern in der Beschleunigung von Techniken, deren Erkennung und Eindämmung Sicherheitsteams schon jetzt vor große Herausforderungen stellen.

Schon heute nutzen Hacker KI, allerdings eher in einer unterstützenden Funktion. Meistens steuert nach wie vor ein Mensch die Zielsetzung, die Auswahl des Angriffsziels und die Entscheidung über den Einsatz der Mittel. Der IT-Sicherheitskonzern Crowdstrike hat im vergangenen Jahr einen Anstieg solcher KI-gestützten Hackeraktivitäten um 89 Prozent festgestellt.

Vollautonome Angriffe wie im Fall Hugging Face haben noch mal eine andere Qualität, zumal er nicht von Menschen beabsichtigt war: Die KI war ohne menschliche Hilfe mit 17.000 autonomen Aktionen in der Lage, eine bislang unbekannte Software-Schwachstelle zu identifizieren, sich Zugangsdaten zu verschaffen, im Netzwerk zu bewegen und mehrere Angriffsmethoden zu kombinieren. „Dadurch stehen hochentwickelte Techniken einem weitaus größeren Kreis von Angreifern zur Verfügung, während schon leistungsfähige Gruppen ihre Angriffe schneller und in größerem Umfang durchführen können“, sagt Jay Kaplan von Synack.

Die Wirtschaft ist nicht ausreichend vorbereitet

Diese Bedrohungslage trifft auf eine deutsche Wirtschaft, die in signifikanten Teilen schon auf die Cyberbedrohungen vergangener Tage nicht ausreichend vorbereitet ist. Das gilt vor allem für den Mittelstand, aber selbst für Behörden und kritische Infrastruktur. „Die meisten verteidigen sich immer noch so, als säße am anderen Ende des Angriffs ein Mensch – jemand, der irgendwann müde wird oder unvorsichtig Spuren hinterlässt“, sagt Kay Ernst vom IT-Sicherheitsunternehmen Zero Networks. Diese Annahme sei überholt. „KI agiert wie ein Einbrecher, der niemals müde wird und keinen Schlaf braucht – und der nicht nur nacheinander an einzelnen Türklinken rüttelt, sondern Tausende Türen gleichzeitig auf ihre Sicherheit prüft.“

Es ist nicht so, als gäbe es keine Wege, sich dagegen zumindest besser zu schützen, als das heute der Fall ist. Wenig spektakulär ist etwa der Ratschlag von Matt Coppinger, Technikchef des IT-Konzerns Omnissa in Europa: das Einspielen von Sicherheits-Patches, also das Schließen von Software-Schwachstellen. „Viele Sicherheitsvorfälle haben ihren Ursprung nach wie vor in Schwachstellen, die bereits Monate zuvor hätten behoben werden können“, sagt Coppinger.

Informationen über Schwachstellen aus Sicherheitssoftware müssten direkt in die Systeme zur Verwaltung von Endgeräten und Servern einfließen. „So erfolgen Updates nicht erst im nächsten geplanten Wartungsfenster, sondern orientieren sich am tatsächlichen Bedrohungsgrad“, sagt Coppinger. Letztlich werde sich nicht jedes Eindringen verhindern lassen, sagt Kay Ernst. Es gehe darum, die potentiellen Auswirkungen – ob durch Mensch oder KI – zu begrenzen, etwa über streng definierte Zugriffsrechte und die Segmentierung kritischer Systeme.

„KI muss mit KI verteidigt werden“

Aber ohne KI, da sind sich die meisten Branchenfachleute einig, wird es in der Verteidigung von Hackerangriffen künftig wohl nicht mehr gehen. „KI muss mit KI verteidigt werden“, sagt etwa Richard Cassidy, IT-Sicherheitschef des amerikanischen Datenschutzanbieters Rubrik in Europa. Auch Hugging Face nutzte ein chinesisches KI-Modell, um sich gegen den Angriff der KI von Open AI zu verteidigen.

Autonome Systeme, die vor autonomen Systemen schützen sollen – das erinnert an die Diskussionen um unbemannte Drohnen in der Rüstungsbranche. Und die Verteidigungs-KI bringt im Betrieb wieder eigene Herausforderungen mit sich. Schließlich gilt es zu verhindern, dass ausgerechnet die eigene Cybersicherheits-KI zum Einfallstor für Hacker wird oder durch nicht ausreichende Sicherheitsmaßnahmen außer Kontrolle gerät. Diese doppelte Bedrohung von innen und außen macht den Umgang mit KI so herausfordernd. „Unternehmen müssen konstant überprüfen, was KI-Agenten in den eigenen Systemen anstellen, und im Zweifel Aktionen auch zurücknehmen können“, sagt Richard Cassidy.

Die Sicherheitsbeschränkungen in den KI-Modellen würden zwar helfen, aber nichts garantieren, sagt KI-Sicherheitsfachmann Udo Schneider vom Unternehmen Trend Micro. „Es handelt sich um probabilistische, keine deterministischen Systeme.“ Wichtig beim Einsatz autonomer KI-Agenten seien die Zugriffsfilterung und die Kontrolle darüber, was überhaupt als Input beim Modell ankommt. „Ein Agent sollte niemals einfach als ‚der Nutzer‘ laufen und dabei sämtliche Zugangsdaten und Berechtigungen erben“, sagt Schneider. Er solle nur die Berechtigungen im System erhalten, die seine jeweilige Aufgabe erfordert. Ausgerechnet Open AI hat sich an diese Ratschläge beim Testen seiner Modelle nicht ausreichend gehalten.