Агент искусственного интеллекта (ИИ), тестирование которого проводила корпорация OpenAI, вышел из-под контроля и взломал не одну, как предполагалось ранее, а две платформы. Об этом сообщило агентство Reuters со ссылкой на Акшата Бубну, технологического директора платформы Modal. Агент получил доступ к данным клиента, размещенным на ней. При этом, по словам господина Бубны, сама Modal не была взломана.
Ранее сообщалось, что во время тестирования ИИ-агент OpenAI вышел за пределы пространства, предназначенного для испытаний, и взломал платформу для работы с нейросетями Hugging Face.
Как отмечает издание Axios, «этот инцидент подчеркивает, сколь агрессивно ИИ-агенты могут выполнять цели, которые перед ними поставлены».
Кибератака со стороны агента OpenAI уже стала поводом для подписания более чем 1200 сотрудниками американских ИИ-компаний письма, в котором говорится о реальном риске того, что ИИ начнет развиваться быстрее, чем люди смогут его «понимать или контролировать».