OpenAI, Anthropic, Google и еще 100 компаний призвали к защите от «неконтролируемого» ИИ

Более сотни технологических компаний, включая OpenAI, Anthropic, Google и Microsoft, подписали открытое письмо с призывом к частному и государственному секторам объединить усилия для защиты от киберугроз, связанных с ИИ.

Письмо, которое также подписали известные киберфирмы, такие как CrowdStrike, Okta и Fortinet, а также крупные финансовые учреждения и компании интернет-инфраструктуры, призывает к внедрению новых форм киберзащиты и encourages правительства на «местном, национальном и международном уровнях» к сотрудничеству в области безопасности.

«В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более масштабными и изощренными, поскольку модели по всему миру становятся все более capable», — говорится в письме. «Компании и государственные службы, от которых зависят наши сообщества, — от больниц до водоочистных сооружений и инфраструктуры, обеспечивающей работу интернета, — находятся под угрозой».

Проблема, которую ИИ представляет для традиционных систем кибербезопасности, недавно оказалась в центре внимания из-за серии необычных инцидентов, в ходе которых ИИ-агенты атаковали компании.

Инцидент с Hugging Face, когда один из агентов OpenAI автономно выбрался из своей изолированной среды и атаковал технологическую компанию, за которым последовала череда других сообщений о взломах с участием агентов, разработанных другими ИИ-компаниями, включая Anthropic и Meta. Эти инциденты укрепили аргумент о том, что область кибербезопасности фундаментально изменилась и требуются смелые новые коммерческие решения для их смягчения.

В письме также предлагается мобилизация «коллективного ответа», в рамках которого будут сформированы «новые партнерства» для «повышения стандартов безопасности и поиска новых решений возникающих киберугроз».

Некоторые из ИИ-компаний, подписавших письмо, продолжают активно разрабатывать все более продвинутые модели ИИ, что подчеркивает их противоречивую позицию. В то же время они предлагают программы использования передовых моделей ИИ в оборонительных целях, включая программу Daybreak от OpenAI, Mythos от Anthropic и новую киберплатформу Perception от Microsoft.

* Meta, Facebook и Instagram запрещены в России.