OpenAI, Anthropic и Google несколько недель ведут переговоры о безопасности ИИ

Крис Лехейн, глава отдела глобальной политики OpenAI, во вторник сообщил журналистам, что компания уже несколько недель работает над вопросами безопасности ИИ совместно с конкурентами — Anthropic и Google DeepMind. Об этом первым сообщил Bloomberg. По данным издания, Лехейн находится в Вашингтоне, чтобы взаимодействовать с американскими законодателями по вопросам катастрофических рисков, связанных с ИИ.

Эта информация появилась после эссе генерального директора Anthropic Дарио Амодеи, опубликованного в субботу, в котором он призвал отрасль объединить усилия, чтобы замедлить темпы развития передового ИИ и избежать катастрофических рисков. Лидеры ИИ-индустрии, включая Сэма Альтмана из OpenAI, Демиса Хассабиса из Google и Илона Маска из SpaceXAI, поддержали письмо и призыв Амодеи к действию. Альтман заявил, что OpenAI присоединится к Anthropic и внедрит сторонних оценщиков в компанию для контроля безопасности.

Во вторник Лехейн признал, что три компании ведут переговоры о безопасности ИИ уже несколько недель. Некоторые, включая Альтмана, отметили, что такие переговоры могут подвергнуть компании риску нарушения антимонопольного законодательства, если координация будет признана подавляющей конкуренцию. В эссе Амодеи предлагалось узкое правительственное разрешение, допускающее такую координацию по безопасности, но Лехейн, по сообщениям, заявил, что фирмам оно не нужно.

Новость подтверждает более ранние сообщения и намекает на то, что компании работали вместе. В интервью Fortune в конце прошлой недели Альтман намекнул, что ведёт частные обсуждения с другими лидерами ИИ-отрасли. На этой неделе The Information сообщило, что три компании работают над созданием органа по стандартизации для ИИ-индустрии — по словам Альтмана, это должно произойти без поддержки правительства США.

Хассабис в июле призвал США создать новый орган по стандартизации, который выступал бы в роли наблюдателя за ИИ с полномочиями проверять самые передовые модели мира и координировать замедление отрасли в случае нарастания опасности.

Президент Трамп, в свою очередь, отмахнулся от опасений по безопасности, назвав их мистификацией, и выступил против ужесточения регулирования, заявив, что любое замедление даст Китаю преимущество в гонке. Его ключевой советник по ИИ Дэвид Сакс — давний инвестор с личной долей в значительной части отрасли — поддержал эту позицию, заявив, что страхи перед экзистенциальным риском от ИИ преувеличены.

На той же встрече во вторник Лехейн заявил, что OpenAI поддерживает положение в законопроекте FRONTIER Act, которое обяжет ведущие передовые лаборатории допускать «независимые верифицирующие организации» в свои компании для обеспечения безопасной разработки моделей.

Редакция TechCrunch обратилась к Anthropic, Google и OpenAI за комментариями.