Взлом OpenAI: угроза национальной безопасности

Нарушение произошло на онлайн-форуме, где сотрудники обсуждали новейшие технологии OpenAI. Хотя системы OpenAI, в которых компания хранит данные обучения, алгоритмы, результаты и данные клиентов, не были скомпрометированы, некоторая конфиденциальная информация была раскрыта. В апреле 2023 года руководители OpenAI сообщили об инциденте сотрудникам и совету директоров, но предпочли не предавать огласке. Они рассудили, что никакие данные клиентов или партнеров не были украдены, а хакером, скорее всего, был человек, не связанный с правительством. Но не все были довольны таким решением.

Леопольд Ашенбреннер, технический менеджер программ OpenAI, раскритиковал меры безопасности компании, заявив, что они недостаточны для предотвращения доступа иностранных противников к конфиденциальной информации. Позже его уволили за утечку информации, что, по его словам, было политически мотивированным. Несмотря на заявления Ашенбреннера, OpenAI утверждает, что его увольнение не было связано с его опасениями по поводу безопасности. Компания признала его вклад, но не согласилась с его оценкой своих методов обеспечения безопасности.

Инцидент усилил опасения по поводу потенциальных связей с иностранными противниками, особенно с Китаем. Однако OpenAI считает, что ее нынешние технологии искусственного интеллекта не представляют серьезной угрозы национальной безопасности. Тем не менее, можно предположить, что передача их китайским специалистам поможет им быстрее продвигать свои технологии искусственного интеллекта.

В ответ на взлом OpenAI, как и другие компании, усилила меры безопасности. Например, OpenAI и другие компании добавили защитные ограждения для предотвращения неправильного использования своих приложений искусственного интеллекта. Кроме того, OpenAI создала комитет по безопасности и защите, в который входит бывший глава АНБ Пол Накасоне, для устранения будущих рисков.

Другие компании, в том числе Meta, делают свои проекты искусственного интеллекта открытыми, чтобы способствовать общеотраслевым улучшениям. Однако это делает технологии доступными и для таких врагов Америки, как Китай. Исследования, проведенные OpenAI, Anthropic и другими, показывают, что современные системы искусственного интеллекта не более опасны, чем поисковые системы.

Рассматриваются федеральные и государственные постановления, которые будут контролировать выпуск технологий искусственного интеллекта и налагать штрафы за вредные последствия. Однако это больше похоже на предосторожность, поскольку эксперты полагают, что до самых серьезных рисков, связанных с ИИ, еще далеко.

Тем временем китайские исследователи искусственного интеллекта быстро продвигаются вперед, потенциально превосходя своих американских коллег. Этот быстрый прогресс вызвал призывы к ужесточению контроля над развитием ИИ, чтобы смягчить будущие риски.

Источник: Tomshardware.com