OpenAI предупреждает: новые модели ИИ могут упростить создание биологического оружия

Connie Loizos/YouTube

Компания OpenAI заявила, что её будущие модели искусственного интеллекта могут существенно снизить барьер для создания биологического оружия, даже для людей без специальных научных знаний. Об этом сообщает издание Fortune.

Согласно внутренней системе оценки рисков OpenAI, следующие поколения ИИ-моделей достигнут уровня «высокого риска». Йоханнес Хайдек, глава отдела систем безопасности компании, отметил, что уже преемники текущей модели o3 могут представлять такую угрозу.

В официальном блоге OpenAI подчеркнули усиление мер безопасности для предотвращения потенциального злоупотребления технологией. Основная опасность заключается в том, что ИИ сможет «повышать уровень знаний новичков», позволяя воспроизводить уже известные науке биологические угрозы.

Компания отмечает парадоксальную природу ИИ: те же алгоритмы, которые способны совершить прорыв в медицине, могут быть использованы и в деструктивных целях. Это требует разработки практически безупречных систем контроля безопасности.

Интересный факт: по данным исследований 2024 года, современные ИИ-системы уже способны самостоятельно проектировать молекулы с заданными свойствами, что открывает как медицинские перспективы, так и потенциальные риски.