OpenAI-Agenten haben im Juni eine Website der Vereinten Nationen mit Suchanfragen überflutet und verschiedene aggressive Methoden eingesetzt, um auf Daten aus dem System zuzugreifen. Dies geht aus einem unabhängigen Forschungsbericht hervor, der am Samstag veröffentlicht wurde, wie das „Wall Street Journal“ berichtet.
Forscher haben in den letzten Wochen mehrere Fälle identifiziert, in denen die KI-Modelle von OpenAI online unerwartetes Verhalten zeigten. Im Fall der UN, wie auch bei mehreren anderen in den letzten Tagen gemeldeten Vorfällen, setzten die Agenten umfangreiche Methoden ein, um Daten von Websites abzurufen.
Die Agenten durchsuchten zwischen April und Ende Juni mehr als 16.000 Mal eine öffentlich zugängliche Online-Datenplattform, die von der UN-Handels- und Entwicklungsorganisation, dem Handelszweig der Organisation, betrieben wird. Laut Howard-Jones schienen die Bots den Auftrag gehabt zu haben, öffentlich zugängliche Informationen abzurufen, griffen jedoch auf extreme Methoden zurück, wenn sie auf Hindernisse stießen.
In einem Fall umgingen die Agenten einen Filter, der ihre Datenanfragen blockierte, und griffen schließlich auf eine Technik zurück, die von den Website-Betreibern nicht zugelassen war, wie sie feststellte. Howard-Jones, eine Ingenieurin, hat in den letzten Wochen öffentliche Hinweise auf die Online-Aktivitäten der OpenAI-Agenten nachverfolgt.
OpenAI teilte am Freitag mit, dass das Unternehmen eine umfassende, laufende Überprüfung „von fehlangepassten Modellen während des Trainings und der Evaluierung“ durchführe und „eine große Anzahl von Aktionen“ untersuche, die diese unternommen hätten.
„Wir prüfen diese Erkenntnisse und haben die UNO kontaktiert, um ein Briefing mit dem Team anzubieten, das diese Überprüfung durchführt“, sagte eine Sprecherin von OpenAI.
OpenAI erklärte, dass der Großteil der bisher untersuchten Aktivitäten „routinemäßige Forschungsaufgaben, wie beispielsweise den Zugriff auf öffentliche Webinhalte zur Beantwortung von Fragen“ betraf, fügte jedoch hinzu: „Wir sind uns bewusst, dass alle Betroffenen dies ernst nehmen, und das tun wir auch.“Die Sprecherin erklärte, dass die Modelle von OpenAI Regierungswebsites als maßgebliche Quellen für öffentliche Informationen nutzten.
Führungskräfte großer KI-Unternehmen haben kürzlich eine koordinierte Verlangsamung der Modellentwicklung gefordert, bevor die Technologie einen Punkt erreicht, an dem Menschen die Kontrolle verlieren könnten. OpenAI-CEO Sam Altman hat zudem angedeutet, dass das Unternehmen seinen Börsengang möglicherweise verschieben müsse, um sich auf die Sicherheit zu konzentrieren.
Diese Entwicklung folgt auf die Bekanntgabe von OpenAI am Freitag, dass seine KI-Agenten auf unerwartete Weise mit mehreren Websites der US-Regierung interagiert hatten. Das Unternehmen erklärte, seine Modelle hätten auf öffentlich zugängliche Informationen auf zwei von der Securities and Exchange Commission (SEC) betriebenen Websites sowie auf Daten des US Census Bureau zugegriffen.
OpenAI erklärte, es habe keine Verwendung von SEC-Zugangsdaten, keinen Zugriff auf Konten oder nicht öffentliche Informationen, keine Änderungen an SEC-Daten oder -Systemen sowie keine Hinweise auf eine Kompromittierung oder Sicherheitslücke festgestellt.
