OpenAI не смогла снизить риск «катастрофической» потери контроля над ИИ, заявил один из советников правительства США по вопросам высоких технологий Пол Кристиано. С предупреждением он выступил на заседании правления некоммерческого фонда OpenAI, членом которого он сегодня стал. Об этом сообщают ведущие мировые медиа, включая The Guardian.
«Существует серьезный риск того, что стремительное развитие возможностей ИИ приведет к катастрофической и необратимой потере контроля в самом ближайшем будущем»,— заметил господин Кристиано, ранее руководивший направлением выравнивания моделей в OpenAI. «Не думаю, что ИИ-индустрия в целом, в том числе OpenAI, в настоящее время движется в правильном направлении по снижению этого риска до более или менее приемлемого уровня»,— добавил он. По его словам, такая задача выполнима и зависит от готовности компании «принять этот вызов».
Пол Кристиано присоединился к все более растущему числу экспертов в области ИИ, предупреждающих о катастрофических последствиях неконтролируемого развития так называемого искусственного суперинтеллекта.
Как уже сообщал “Ъ”, накануне с предупреждениями выступил Джейкоб Коксон, работавший ведущим специалистом в таких крупных компаниях, как Anthropic и OpenAI. Он отметил, что люди, «создающие ИИ, считают, что он может убить нас всех к концу десятилетия». Ранее о том же говорил нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом ИИ». В июле более тысячи сотрудников ИИ-компаний подписали открытое письмо с призывом законодательно замедлить развитие нейросетей.
