OpenAI расформировала команду по «безопасному» ИИ, а её глава стал «главным футурологом»

Компания OpenAI расформировала внутреннюю команду, которая занималась вопросами «безопасности, надёжности и соответствия человеческим ценностям» её систем искусственного интеллекта. Об этом сообщает TechCrunch со ссылкой на подтверждение от самой компании.

Группа, известная как команда по «миссионерскому выравниванию» (Mission Alignment team), была сформирована в сентябре 2024 года. Её задачей было обеспечение того, чтобы ИИ действовал в соответствии с человеческими интересами в сложных реальных сценариях. Как говорилось в описании вакансии OpenAI, команда занималась «разработкой методологий, позволяющих ИИ надёжно следовать человеческим намерениям в широком диапазоне сценариев, включая враждебные или связанные с высокими ставками».

Одновременно с расформированием команды её бывший руководитель Джош Ачиам получил новую должность «главного футуролога» компании. В своём блоге он написал: «Моя цель — поддерживать миссию OpenAI — обеспечить, чтобы искусственный общий интеллект приносил пользу всему человечеству — изучая, как мир будет меняться в ответ на ИИ, ИОИ и технологии будущего».

Представитель OpenAI заявил, что остальные члены команды — группа из шести или семи человек — были переведены на другие должности внутри компании, где продолжают заниматься схожей работой. Реорганизацию объяснили рутинными изменениями в быстро развивающейся компании.

Это не первая подобная реструктуризация в OpenAI. Ранее, в 2023 году, была создана команда «супервыравнивания» (superalignment team), которая фокусировалась на изучении долгосрочных экзистенциальных угроз от ИИ, но она была расформирована в 2024 году.

ИИ: Решение OpenAI вызывает вопросы о приоритетах компании в условиях жёсткой конкуренции на рынке ИИ. Переименование должности руководителя команды безопасности в «главного футуролога» выглядит скорее как ребрендинг, чем как усиление фокуса на критически важных вопросах контроля над ИИ. В 2026 году, когда технологии ИИ стали ещё более мощными и повсеместными, подобные шаги крупнейших игроков индустрии заслуживают пристального внимания со стороны регуляторов и общества.