Anthropic в проспекте к IPO предупредила, что её ИИ может уничтожить человечество

Anthropic посвятила почти треть своего долгожданного проспекта к IPO факторам риска, сообщает Financial Times, изучившая документ в последние дни. В проспекте описаны конкретные тревожные модели поведения, которые, по словам Anthropic, её модели уже демонстрировали или могут продемонстрировать, включая попытки «сопротивляться отключению», «скрывать или манипулировать информацией» и поведение, «напоминающее шантаж», пишет Reuters.

Эти раскрытия выглядят откровенно мрачно для компании, чьи собственные инвесторы верят, что её оценка при размещении может превысить 2 триллиона долларов — более чем вдвое больше майской оценки в 965 миллиардов долларов (~77 трлн руб.) — в потенциально крупнейшем IPO в истории. Странное положение для любой компании: предупреждать, что её продукт может уничтожить человечество, и одновременно делать некоторых из своих первых инвесторов и сотрудников невероятно богатыми.

Reuters первым сообщил о финансовых деталях проспекта в понедельник: Anthropic зафиксировала операционный убыток более 8 миллиардов долларов (~640 млрд руб.) в 2025 году на фоне резкого роста расходов на вычислительные мощности, а её выручка выросла двенадцатикратно — почти до 4,6 миллиарда долларов (~368 млрд руб.), хотя рост затрат на инфраструктуру в прошлом году поднял общие операционные расходы почти до 13 миллиардов долларов (~1,04 трлн руб.).

По данным Reuters, проспект Anthropic также раскрывает планы потратить колоссальные 518 миллиардов долларов (~41,4 трлн руб.) на облачные, вычислительные и инфраструктурные мощности в ближайшие годы. (В этом году Anthropic уже заключила сделки по вычислениям с Google, SpaceX, Nscale и другими компаниями.)

FT тем временем сообщает, что показатели Anthropic в 2026 году росли ещё быстрее. Только выручка за второй квартал достигла 11,5 миллиарда долларов (~920 млрд руб.), и компания идёт ко второму подряд кварталу операционной прибыли на скорректированной основе.

По данным FT, в проспекте также отмечена концентрация клиентов: почти четверть выручки прошлого года пришлась всего на двух заказчиков. (Кто они — пока не сообщается.)

Эти раскрытия, которые, как сообщается, включают «экзистенциальные риски для человечества» — впервые, судя по быстрой проверке базы данных SEC, — появляются на фоне быстро растущей тревоги вокруг безопасности ИИ.

Генеральный директор Дарио Амодеи весь месяц публично призывал «замедлить темпы» развития ИИ, заявив на прошлой неделе Совету Безопасности ООН, что ИИ может угрожать человечеству, и назвав его «важнейшей глобальной проблемой безопасности, стоящей сегодня перед миром». Конкуренты Сэм Альтман и Илон Маск также поддержали его — редкий момент солидарности для соперников, которые, казалось, с удовольствием публично принижали друг друга.

Ещё один конкурент, Марк Цукерберг, тем временем отмахнулся от опасений, заявив NBC News на прошлой неделе, что не «считает, что нам нужна какая-то общеотраслевая координация».

Предупреждения прозвучали после серии инцидентов в сфере безопасности, в ходе которых ИИ-агенты взламывали внешние системы. Фактически OpenAI на прошлой неделе признала, что её инструменты взломали «десятки» внешних сайтов, включая правительственные, в том числе сайт самой SEC. Ранее в понедельник она заявила, что отказалась от планов выпустить новейшую модель из-за опасений по поводу безопасности.

Цены сконвертированы автоматически по актуальному курсу, реальные значения могут отличаться.

* Meta, Facebook и Instagram запрещены в России.