Nvidia не теряет времени: созданная неделю назад группа по безопасности ИИ уже показывает прогресс

Nvidia не теряет времени даром: всего через неделю после создания отраслевой группы по безопасности ИИ она уже демонстрирует прогресс.

Недельный Альянс открытой безопасности ИИ (OSAA), отраслевая группа, возглавляемая Nvidia и уже насчитывающая более 120 компаний, разработала рабочую группу с забавным названием — «Обмен общими выводами об ИИ», или SAFE. Группа уже представляет предложения для открытого обсуждения, а Linux Foundation, являющийся членом группы, управляет этими предложениями.

Разработка велась во время встречи участников на конференции Black Hat, которая проходит на этой неделе в Лас-Вегасе и является центром кибербезопасности.

Пока что рекомендации не являются чем-то сверхъестественным. Предложения охватывают такие области, как конфиденциальное сообщение об инцидентах кибербезопасности ИИ, оповещение пострадавших и последующий анализ без обвинений, чтобы все могли извлечь из этого уроки.

В то же время участники OSAA также вносят и каталогизируют фрагменты своих технологий с открытым исходным кодом, которые могут быть полезны. Как это обычно бывает с подобными отраслевыми организациями, это может в конечном итоге привести к созданию открытого инструмента для защиты ИИ-агентов предприятия или отражения атак недобросовестных ИИ, таких как модель OpenAI, которая проникла в Hugging Face. (Hugging Face также является участником этой группы.)

Например, Nvidia отмечает, что предлагает целое семейство открытых моделей, а также сканер уязвимостей LLM с открытым исходным кодом под названием Garak; Okta работает над технологией идентификации агентов; Red Hat — над управлением агентами; а Amazon предоставила как открытый инструмент для создания агентов Strands Agents, так и язык авторизации Cedar. И это лишь некоторые примеры.

В группу теперь входит множество крупных имен, включая Adobe, BlackRock, Cisco, Intel, Microsoft и Visa, но есть и заметные отсутствующие, такие как Anthropic, OpenAI и Google.

Интересно, что и OpenAI, и Google подписали первоначальное открытое письмо, которое породило эту группу. Письмо, опубликованное на прошлой неделе, призывало Белый дом поддерживать усилия в области открытого ИИ, а не подавлять их. Его продвигала Nvidia, и его подписали более 200 технологических компаний.

Хотя холодное отношение Anthropic к письму и отраслевой группе не является неожиданностью, и OpenAI, и Google выпустили собственные модели с открытым весом. Google также обычно известен как крупный сторонник открытого исходного кода. Посмотрим, присоединятся ли они, когда группа наберет обороты.

Тем временем группа действует со скоростью ИИ. Прошло всего пару недель с тех пор, как появилась новость о том, что администрация Трампа рассматривает возможность запрета китайских моделей с открытым весом, что вызвало замешательство в отрасли и привело к открытому письму.

Что бы в конечном итоге ни случилось с китайскими моделями с открытым весом в США, быстрые действия этой влиятельной группы, похоже, идут на пользу американской экосистеме открытого ИИ. Некоторые в экосистеме, например соучредитель и технический директор американской лаборатории открытого ИИ Arcee, говорят, что в конечном итоге это лучший способ противостоять любой угрозе — реальной или воображаемой, — которую китайские лаборатории ИИ представляют для Соединенных Штатов.

«Открытость может быть одним из важнейших путей к безопасности и защищенности ИИ», — написали участники этой отраслевой группы в своем письме. Похоже, они готовы немедленно подтвердить свои усилия — и свои технологии — делом.