„Beispielloser Vorfall“ OpenAI-KI außer Kontrolle – wackelt jetzt der Börsengang?

Die auf künstliche Intelligenz (KI) spezialisierte US-Firma OpenAI hat die Verantwortung für einen Hackerangriff auf das Start-up Hugging Face übernommen. Ein autonom ​agierendes KI-Modell sei bei internen Tests außer Kontrolle geraten, räumte OpenAI am Dienstag (Ortszeit) in einem Blog-Beitrag ein.

Das Softwareunternehmen um Vorstandschef Sam Altman (41) sprach von einem „beispiellosen Cyber-Vorfall“ und kündigte an, seine Sicherheitsvorkehrungen zu verstärken. Experten warnen seit Langem ‌davor, dass KI-Programme mit ihren rasant wachsenden Fähigkeiten selbst ihre Entwickler auf dem falschen Fuß erwischen können.

KI-Agenten gelangen ins Internet und attackieren

OpenAI zufolge sollten die neuesten KI-Agenten in einer kontrollierten und isolierten Umgebung auf ihre Fähigkeiten zum Erkennen und Umgehen von IT-Sicherheitslücken getestet werden. Den Programmen sei es jedoch gelungen, die Beschränkungen zu überwinden, Zugang zum Internet zu erlangen und die Systeme von Hugging Face zu attackieren. Über diese Plattform können Nutzer frei zugängliche KI-Modelle und KI-Trainingsdaten herunterladen.

Hugging Face hatte vergangene Woche mitgeteilt, Opfer eines Cyberangriffs geworden zu sein. Dieser sei von völlig neuer Qualität. „Er wurde von Anfang bis Ende von einem autonomen KI-Agentensystem gesteuert.“ Als Reaktion ​auf das OpenAI-Eingeständnis schrieb Hugging-Face-Mitgründer Clement Delangue auf dem Kurznachrichtendienst X: „Angesichts der Raffinesse des Schadcodes hatten wir vermutet, dass der Cyberangriff aus einem 'Frontier Lab' stammte. Wie sich herausstellte, war das tatsächlich der Fall!“ ⁠Führende KI-Entwickler heißen im Fachjargon „Frontier Labs“.

Hugging ⁠Face nutzte zur Analyse der Attacke nach eigenen Angaben KI-Modelle der chinesischen Anbieter Z.ai und Moonshot. Diese beiden Programme gelten westlichen Produkten als technologisch ebenbürtig. Zudem dürfen sie anders als viele US-Modelle auch zur Cyberabwehr eingesetzt werden. Hugging-Face-Mitgründer Thomas Wolf begründete die Entscheidung zugunsten der China-KI mit Zeitdruck und der Leistungsfähigkeit der Software.

Er ‌sei sich sicher, dass hinter dem Angriff keine böse Absicht stecke, betonte Delangue. Sein Unternehmen und OpenAI arbeiteten mit Hochdruck an ​der Aufarbeitung des Vorfalls. „Es ist wirklich unglaublich, ‌dass all das autonom passiert ist!“ Die US-Cybersicherheitsbehörden waren zunächst nicht zu erreichen.

Clement Delangue, Mitgründer des angegriffenen Unternehmens Hugging Face

Für Katie Moussouris, Chefin der Beratungsfirma Luta Security, ist der Vorfall nur ein Vorgeschmack auf künftige Hackerangriffe. „Entwickler und staatliche Prüfer müssen daran arbeiten, KI-Systeme einzudämmen, zu überwachen und Betroffene zu informieren, wenn eine KI einen weiteren Houdini-Trick vollführt – idealerweise, bevor sie Dritten Schaden zufügt.“ Harry Houdini war ein bekannter Entfesselungskünstler.

USA und China erwägen KI-Regulierung

Die Bundesregierung stuft das außer Kontrolle geratene KI-Modell von OpenAI als „Paradigmenwechsel“ ein. „Dieser Vorfall ist ein weiteres Beispiel dafür, dass wir ​einen Paradigmenwechsel sehen, was die Fähigkeiten von KI-Agenten betrifft“, sagte ein Sprecher des Digitalministeriums am Mittwoch. ‌Man sehe seit einigen Monaten, dass die Fähigkeiten von sogenannten Frontier-AI-Modellen massiv zunehmen, und damit die Risiken steigen. „Das verändert auch die Bedrohungslage potenziell massiv.“

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) teilte mit, dass aus Sicht des BSI mit KI-Modellen wie Claude Mythos, OpenAI GPT-5.6 und anderen topaktuellen KI-Modellen „eine neue ​Zeitrechnung der Cybersicherheit“ angebrochen sei. Dass die KI aus einer „sicheren“ Umgebung (Sandbox) ausgebrochen ‌sei und sich danach frei im Internet bewegt habe, sei ein ernst zu nehmender Vorfall, sagte der BSI-Sprecher weiter.

Man müsse sicherstellen, dass auch europäische Unternehmen und Sicherheitsbehörden Zugang zu diesen Modellen ⁠haben, ⁠erklärte der Sprecher des Digitalministeriums. Man habe in der Vergangenheit gesehen, dass dies nicht immer der Fall sei. Umso mehr setze man darauf, dass europäische Player auch auf dem Gebiet wichtiger würden, ‌sagte er.

Die Gefahren durch automatisierte Hackerangriffe werden voraussichtlich auch ein Thema auf dem geplanten hochrangigen KI-Treffen zwischen den USA und ‌China sein. Insidern zufolge wollen die beiden führenden Staaten bei der KI-Entwicklung ​im September über eine Regulierung dieser Technologie beraten.

Cybergefahren durch KI lange bekannt

Die ‌Diskussion um die zunehmenden Cybersicherheitsrisiken durch KI hat spätestens mit der Entwicklung des Modells „Mythos“ von Anthropic Fahrt aufgenommen. ‌Das US-Start-up macht dieses Programm bislang nicht allgemein ​zugänglich, da es sich durch verbesserte Fähigkeiten beim Aufspüren und Ausnutzen von IT-Sicherheitslücken auszeichnet. Stattdessen gewährte Anthropic im Rahmen des Projekts „Glasswing“ ausgewählten Unternehmen und Institutionen Zugang, damit diese ihre Systeme auf Schwachstellen prüfen können. Zeitweise ​schaltete Anthropic „Mythos“ auf Anordnung der US-Regierung sogar komplett ab.

Verschiebt OpenAI nun die Börsenpläne?

Auch OpenAI steht unter verstärktem Druck der Behörden. ⁠Das Unternehmen darf sein neuestes KI-Modell GPT-5.6 wegen Sicherheitsbedenken ebenfalls nur ​ausgewählten Nutzern ​zur Verfügung stellen. Dies und der Vorfall bei Hugging Face werfen einen Schatten auf die Börsenpläne des Unternehmens.

OpenAI hatte Anfang Juni einen vertraulichen Antrag auf Zulassung zum Aktienhandel eingereicht. Einem Zeitungsbericht zufolge denkt OpenAI jedoch darüber nach, sein Debüt auf ‌2027 zu ‌verschieben.