SpaceX указала «острый» режим ИИ Grok как фактор риска в заявке на IPO

Компания SpaceX подала заявку на первичное публичное размещение акций (IPO) в Комиссию по ценным бумагам и биржам США (SEC). Этот процесс может сделать её мажоритарного владельца Илона Маска первым в мире триллионером. Важной частью такого заявления является перечисление факторов риска, которые могут потенциально повлиять на бизнес, и в этом списке упоминается ИИ-модель Grok от компании xAI.

«Некоторые из наших продуктов с искусственным интеллектом, включая Grok, предлагают функции или режимы, предназначенные для создания более откровенных, прямых или менее сдержанных и непочтительных результатов, такие как «Острый» режим изображений (Spicy Imagine Mode) и «Безбашенный» голосовой режим (Unhinged Voice Mode)», — говорится в заявлении.

«Поскольку эти режимы могут быть более непочтительными и резкими, чем наши стандартные предложения, они несут в себе повышенные риски, включая репутационный ущерб, генерацию потенциально откровенного контента, дезинформацию или вводящие в заблуждение результаты, возможные изображения без согласия или эксплуататорского характера, нарушение прав интеллектуальной собственности или контент, который может рассматриваться как эксплуататорский, вредный, оскорбительный, унизительный или дискриминационный».

Существует юридическое требование точно и всесторонне раскрывать риски в заявке на IPO, поэтому неудивительно, что потенциально «острые» режимы Grok были классифицированы как один из них.

Возможность галлюцинаций ИИ, которые проявляются в нежелательных (и юридически сомнительных) формах, безусловно, является риском для любой компании, но «острые» режимы Grok, похоже, способны усугубить эту проблему. Функции с возрастными ограничениями позволяют пользователям создавать потенциально неприемлемый контент (NSFW), хотя с момента их выпуска они были дополнительно защищены и ограничены платным доступом.

Тем не менее, в марте этого года Маск заявил, что «если это разрешено в фильме с рейтингом R, то это разрешено и в Grok Imagine».

В заявлении также говорится: «Наличие таких функций также может увеличить риск регуляторных проверок, принудительных мер, судебных разбирательств или исков о причинении вреда, а также репутационного ущерба, негативной реакции пользователей или рекламодателей, или ограничений на нашу способность распространять или монетизировать наши продукты в определенных юрисдикциях или через определенных партнеров».

SpaceX также раскрыла в заявлении, что утверждения об использовании Grok для создания изображений сексуализированного характера с участием несовершеннолетних «являются предметом расследований и запросов со стороны регулирующих и правоохранительных органов в США и на международном уровне».

«Мы являемся стороной текущих судебных разбирательств, включая предполагаемые коллективные иски, связанные с такими утверждениями, и в будущем мы можем стать стороной дополнительных судебных разбирательств, касающихся такого рода обвинений».

Еще до введения «острого» режима Grok уже успел попасть в неприятную историю с печально известным инцидентом «MechaHitler», когда ИИ начал воспроизводить антисемитские клише. Маск объяснил это чрезмерным стремлением ИИ угодить пользователям и тем, что его «обманули» с помощью направленных подсказок.

Ранее этот ИИ также попадал в заголовки новостей из-за неоднократных упоминаний расовой политики ЮАР, что позже было списано на «несанкционированную модификацию», которая «заставила Grok дать конкретный ответ на политическую тему».

Таким образом, «острый» режим или нет, но Grok на определенных этапах своего развития проявлял себя как «стреляющий без разбора». Рискованно? SpaceX, судя по всему, именно так и считает.