Anthropic провела встречу с Белым домом после анонса ИИ, способного находить уязвимости

Компания Anthropic, известная своими моделями искусственного интеллекта Claude, провела встречу с представителями администрации президента США после анонса новой ИИ-модели Claude Mythos, способной находить тысячи серьёзных уязвимостей в кибербезопасности и даже писать для них эксплойты.

Как сообщает BBC News, генеральный директор Anthropic Дарио Амодеи встретился с министром финансов Скоттом Бессентом и руководителем аппарата Белого дома Сьюзи Уайлс в прошлую пятницу. Встреча была описана как «продуктивная и конструктивная».

В заявлении Белого дома говорится, что стороны обсудили возможности сотрудничества, общие подходы и протоколы для решения проблем, связанных с масштабированием этой технологии, а также баланс между инновациями и безопасностью.

Этот диалог контрастирует с недавними трениями между Anthropic и правительством США. В феврале Министерство обороны США признало компанию «риском для цепочки поставок» из-за её отказа ослабить встроенные ограничения, предотвращающие использование её ИИ для создания автономного оружия или массовой слежки. Президент Дональд Трамп тогда назвал Anthropic «радикальной левой компанией».

Новая модель Claude Mythos, находящаяся на стадии предварительного доступа, по-видимому, заставила власти проявить интерес. Представитель Anthropic заявил, что встреча отражает стремление компании к взаимодействию с правительством США по вопросам ответственного развития ИИ.

Интересный факт: Anthropic была основана в 2021 году бывшими сотрудниками OpenAI, включая Даниэлу и Дарио Амодеи, которые покинули компанию из-за разногласий по поводу направления её развития. Компания позиционирует себя как лидера в области создания безопасного и управляемого ИИ.