Сэм Альтман: некоторых аварий с ИИ не избежать

Глава OpenAI Сэм Альтман не делает вид, что искусственный интеллект будет абсолютно безопасным навсегда. Выступая на конференции Dreamforce, организованной Salesforce, он заявил, что определённое количество аварий с новыми технологиями просто неизбежно. Главное, по его мнению, — это то, как отрасль реагирует, когда они происходят.

«Я действительно считаю, что некоторой доли аварий с новыми технологиями не избежать, — сказал Альтман. — Для меня важно, чтобы у нас была отличная культура сообщения об авариях и обучения на них». Он привёл в пример Федеральное управление гражданской авиации и Национальный совет по безопасности на транспорте США. Эти ведомства тщательно разбирают каждый инцидент, и именно эта культура обучения во многом объясняет, почему современные авиаперелёты так безопасны.

Его слова прозвучали в тот момент, когда за ведущими лабораториями ИИ следят внимательнее, чем когда-либо, особенно по мере того, как системы приближаются к большей автономности. Недавние заявления Джейкоба Коксона, исследователя, который недавно покинул Anthropic, ранее работая в OpenAI, подлили масла в огонь дискуссии: он предупредил, что компании несутся к самоулучшающемуся сверхинтеллекту.

Альтман не стал отмахиваться от этих тревог. Он сказал, что опасения публики по поводу выхода ИИ из-под контроля или чрезмерной концентрации власти в руках нескольких лабораторий совершенно понятны. «Мир вправе этого бояться», — заявил он.

Однако вместо того, чтобы всё замедлить или остановить, Альтман утверждает, что компании должны вести работу над выравниванием, безопасностью и мониторингом с существенным опережением роста возможностей моделей. Если этот баланс не удастся сохранить, считает он, компании должны быть готовы замедлить или даже приостановить исследования. Смысл не в том, чтобы пожать плечами и принять катастрофы, а в том, чтобы честно признавать ошибки, быстро их разбирать и продолжать совершенствоваться, чтобы риски не выходили из-под контроля.

Эти комментарии вписываются в более широкую дискуссию о том, как быстро должен развиваться передовой ИИ. Некоторые голоса в отрасли призывают к большей осторожности, тогда как политика США при текущей администрации нацелена на технологическое лидерство.