Anthropic «запечатала» свою самую мощную модель ИИ, опасаясь, что она уничтожит человечество

Американский гигант в области искусственного интеллекта Anthropic, чья рыночная капитализация превзошла OpenAI, недавно выпустил Mythos Preview, который позиционируется как самая мощная крупная модель за всю историю. Теперь же компания провернула еще один трюк, объявив о закрытии этой крупной модели, потому что она слишком мощная.

После выпуска модели Mythos компания Anthropic в сотрудничестве с несколькими американскими технологическими гигантами и учреждениями запустила программу партнерства в области кибербезопасности Glasswing, предоставив им доступ к Mythos для обнаружения уязвимостей.

Компания Anthropic объявила о последних достижениях в этом проекте, заявив, что, несмотря на то, что внутренние тесты доказали чрезвычайно высокую эффективность модели безопасности следующего поколения, Claude Mythos Preview, в обнаружении уязвимостей и обеспечении защиты от сетевых атак, компания на неопределенный срок запретит выпуск модели уровня Mythos на публичный и коммерческий рынки до тех пор, пока не будет разработан более эффективный механизм согласования безопасности.

Примерно за месяц до выпуска для партнеров Mythos уже выявил как минимум 10 000 уязвимостей высокого риска или критических уязвимостей в различных отраслях, достигнув эффективности обнаружения более чем в 10 раз выше, чем раньше.

Несмотря на многочисленные обнаруженные уязвимости, отрасль с трудом справляется с темпами их устранения, что приводит к тому, что многие компании и организации просят Anthropic замедлить темпы раскрытия уязвимостей Mythos.

На самом деле, Anthropic неоднократно намекала, что Mythos слишком могущественна, поэтому они не осмеливаются открывать её для публики, и даже неоднократно заявляла, что ИИ может уничтожить человечество.

На недавней конференции в Лондоне соучредитель Anthropic Джек Кларк предупредил, что существует ненулевая вероятность того, что ИИ приведет к вымиранию человечества, указав, что к 2028 году ИИ сможет самоэволюционировать, то есть обучаться и совершенствоваться без вмешательства человека, что приведет к непредсказуемым изменениям.

Идея о том, что ИИ может уничтожить человечество, не является новостью в американском сообществе специалистов по ИИ. Даже две самые передовые компании, OpenAI и Anthropic (вместе с Маском), стремятся распространить эту идею. С одной стороны, они пугают людей тем, что ИИ может уничтожить человечество, а с другой — заявляют о мощи своего ИИ и о том, насколько высоко они ценят безопасность ИИ.

Подобную рекламную тактику также критиковал генеральный директор NVIDIA Дженсен Хуанг, который недавно заявил, что у некоторых руководителей компаний развивается «комплекс Бога», они считают себя всемогущими и всезнающими. Эта оценка довольно точна.

Что касается компании Anthropic, то, если отбросить их пропаганду, направленную на промывание мозгов, модель Mythos действительно очень эффективна в обнаружении уязвимостей в сфере кибербезопасности. Однако некоторые пользователи, которые её опробовали, отмечают, что модель работает слишком медленно и не подходит для повседневного использования или программирования.

Компания Anthropic постоянно отказывается раскрывать какие-либо конкретные параметры модели Mythos. Инсайдеры отрасли предполагают, что это сверхбольшая модель с 10 триллионами параметров, что делает ее чрезвычайно дорогостоящей в обучении и очень сложной в развертывании, а следовательно, непригодной для коммерциализации.

Поэтому утверждение Anthropic о том, что Mythos слишком могущественен и может даже навредить человечеству, что приведет к его бессрочному запечатыванию, является скорее маркетинговым ходом. Если бы Mythos действительно приносил прибыль, зачем бы они приняли такое решение?