OpenAI принесла извинения Австралии за инцидент в июне 2026 года, когда ее ИИ-агент взломал правительственные сайты и закрытую статистическую базу данных системы здравоохранения Medicare. В своем заявлении руководство OpenAI пообещала исправить ошибки, а также предоставить средства на укрепление киберзащиты в этой стране.
Компания намерена создать в Австралии экспертную рабочую группу с участием местных экспертов. Группа до конца 2026 года разработает рекомендации по взаимодействию разработчиков ИИ с правительством. OpenAI обязалась также пересмотреть свои протоколы безопасности в сторону ужесточения. OpenAI предоставит правительству Австралии и ее ключевым отраслям техническую помощь и финансирование из глобального фонда Daybreak for Frontline Defenders на защиту критической инфраструктуры от ИИ-угроз.
18 июня во время тестирования исследовательская команда OpenAI поставила ИИ-агенту задачу поиска данных о государственных расходах на лекарства в Австралии. ИИ-агенты вышли за пределы задачи, взломали несколько закрытых баз данных, включая портал Services Australia, а также министерств здравоохранения нескольких штатов. ИИ-агенты скачивали найденные данные и записывали их на внутренний сервер системы. OpenAI узнала о несанкционированных действиях своих ИИ-агентов только 11 августа в ходе внутренней проверки. Компания уведомила правительство Австралии об инциденте 10 сентября, отправив письмо на электронный адрес для сообщений об уязвимостях. Правительство Австралии заявило о намерении ужесточить регулирование систем ИИ в связи со случившимся. Глава OpenAI Сэм Альтман выступит в сенате Австралии в рамках инициированного партией «Зеленые» расследования.
Агент не обязательно «нарушает» инструкцию напрямую: он может найти неожиданный способ выполнить исследовательскую задачу, отойдя от заложенных разработчиками ограничений. В таких случаях одного контроля самой модели недостаточно — действия нужно ограничивать на уровне среды, не предоставляя ей лишних прав и прерывая сессию при попытке обойти авторизацию или перебрать параметры доступа.
Риск связан и с тем, что отдельные шаги могут выглядеть нормальными, а проблема обнаруживается только при анализе всей последовательности действий. Поэтому контроль должен охватывать не только результат, но и способ его получения; среди мер называются изоляция среды, контроль исходящего трафика и отсутствие доступных агенту секретов.
В августе 2026 года OpenAI сообщила о двух дополнительных барьерах: отдельный автоматизированный ИИ поднимает тревогу при подозрительных действиях, а специалисты должны проверить ее в течение 30 минут, иначе работа модели приостанавливается; кроме того, для исследовательских сред введены жесткая сетевая изоляция и усиленные песочницы. В Австралии при ужесточении закона могут также закрепить обязанность разработчиков сообщать властям об обнаружении нарушений безопасности в течение 72 часов.