OpenAI представила Astra — свою самую мощную и противоречивую модель ИИ

Компания OpenAI представила Astra — свою новейшую и, по заявлению разработчиков, самую мощную и функциональную модель искусственного интеллекта.

В OpenAI утверждают, что Astra знаменует собой «новый рубеж в использовании компьютера и браузера», справляясь с задачами с непревзойденной «скоростью, точностью и безопасностью».

Модель стала доступна в четверг клиентам OpenAI, использующим программу кибербезопасности Daybreak. В течение следующей недели она также появится в платных тарифах OpenAI — включая Pro, Plus, Enterprise и Business, — а также через API.

В ходе разговора с журналистами в четверг президент OpenAI Грег Брокман заявил, что Astra — это «самая интеллектуальная и, что очень важно, самая согласованная модель на сегодняшний день». Он добавил, что она «объединяет годы наших исследований и крупных ставок, где каждая прорывная разработка опиралась на предыдущую» и представляет собой «реальный сдвиг в том, какую работу люди могут делегировать ИИ и как он может расширять их возможности».

Много говорится о кибервозможностях Astra. Ранее на этой неделе OpenAI опубликовала блог, в котором обсуждались новые возможности модели, а также новые меры безопасности, внедренные для повышения безопасности пользователей. В четверг компания сообщила, что протестировала Astra на различных эталонах безопасности, чтобы убедиться в ее возможностях, и что «ее способность выявлять и разрабатывать эксплойты нулевого дня может помочь защитникам находить и устранять уязвимости».

Акцент компании на согласованности — то есть на склонности модели делать то, что хочет пользователь или что отвечает его интересам, — не может не выглядеть реакцией на недавний взлом Hugging Face, в ходе которого агент OpenAI сбежал из изолированной тестовой среды и взломал несколько компаний (весьма вопиющий пример несогласованности).

OpenAI также хвастается способностями Astra в области программирования, утверждая, что это «лучшая модель для разработки программного обеспечения на сегодняшний день». В подтверждение этого компания приводит результаты различных тестов, связанных с кибербезопасностью. Эти тесты показывают, что Astra набирает больше баллов, чем другие существующие модели — включая собственную Sol от OpenAI и Fable от Anthropic — в таких задачах, как поиск ошибок, выполнение терминальных задач и ответы на запросы о кодовых базах.

Astra, возможно, также является самой противоречивой моделью OpenAI из-за использования особой техники рассуждения, известной как непрозрачная рекуррентность. Известно, что эта техника скрывает важный процесс мониторинга модели, называемый цепочкой рассуждений, который позволяет исследователям проверять, как и почему модель ИИ приняла те или иные решения.

OpenAI преуменьшила степень использования Astra непрозрачной рекуррентности, а на том же звонке главный научный сотрудник Якуб Пачоцки, похоже, представил некоторую степень непрозрачности как естественный результат эволюции моделей. Он заявил, что мониторинг процесса рассуждений модели является критически важной формой надзора, но «по мере роста возможностей моделей мониторинг становится все более сложной задачей».

Позже он добавил, что одной из возможных причин этого является то, что «более capable модели могут выполнять более сложные задачи, используя меньше языковых токенов» или «вообще без языковых токенов», что, по его словам, снижает возможность отслеживать эти конкретные задачи.

Один из репортеров на звонке поинтересовался, действительно ли OpenAI провозглашает Astra официальным приходом AGI, или искусственного общего интеллекта — часто обсуждаемого, но плохо определенного технологического рубежа, на котором ИИ превосходит человеческие возможности во всех (или большинстве) областях.

Здесь Брокман уклонился от ответа. «Больше нет контрактного триггера AGI, так что это понятие больше не актуально», — сказал он. Брокман имел в виду ранее существовавшее положение в контракте OpenAI с Microsoft, согласно которому партнерство должно было быть расторгнуто после наступления AGI. Как отметил Брокман, это положение больше не существует.

Вместо этого Брокман объяснил, что определение AGI эволюционировало от контрактного обязательства к «концепции миссии или духовной концепции». Он добавил: «Я предоставляю читателю решать, соответствует ли это его представлениям. Лично я считаю, что мы уже там».