OpenAI усиливает защиту конфиденциальности клиентов, бросая вызов Anthropic

По мере того как ИИ-модели становятся все мощнее, растет и потенциал их неправомерного использования, а вместе с ним — и призывы к внедрению защитных механизмов, способных предотвратить подобные злоупотребления. Компаниям, работающим в сфере ИИ, приходится балансировать на тонкой грани между уважением к конфиденциальности корпоративных клиентов и необходимостью отслеживать использование сервисов на предмет возможных проблем.

Увидев возможность обойти своего конкурента Anthropic, компания OpenAI только что анонсировала новый подход к безопасности, ориентированный на конфиденциальность. Компания представляет избранным клиентам новый сервис под названием Private Safety Processing («Приватная обработка безопасности»). Это автоматизированная система, которая отслеживает потенциальные злоупотребления, одновременно не сохраняя никаких данных клиента.

Эта система явно противоречит недавно объявленной политике хранения данных Anthropic. Эта политика, вызвавшая недовольство некоторых клиентов, позволяет лаборатории ИИ хранить пользовательские данные (все сеансы и содержащиеся в них разговоры) в течение 30 дней, когда речь идет о «покрытых моделях». К таким моделям относятся все модели класса Mythos и «будущие модели с аналогичными возможностями», сообщает компания.

Эта политика, объявленная в июле, была разработана в целях безопасности и позволяла лаборатории анализировать потенциальные нарушения. Однако она вызвала серьезную обеспокоенность у некоторых предприятий, которые работают с большими объемами конфиденциальных данных и не хотят, чтобы ИИ-лаборатория их хранила или проверяла.

OpenAI, как и большинство других ИИ-компаний, уже предоставляет клиентам определенный уровень конфиденциальности, придерживаясь политики, известной как Zero Data Retention (ZDR, «Нулевое хранение данных»). ZDR использует агентов в API OpenAI для мониторинга злоупотреблений в каждом отдельном сеансе. Таким образом, данные клиентов не сохраняются компанией, но при этом компании могут сканировать активность на предмет нарушений без вмешательства человека. Стоит отметить, что Anthropic также в основном соблюдает ZDR, за исключением «покрытых моделей», таких как Fable.

OpenAI заявляет, что Private Safety Processing — это новая технология, расширяющая возможности ZDR. Она описывается как форма долгосрочного мониторинга безопасности, которая оценивает входные и выходные данные нескольких разговоров, а не только одного. Мониторинг снова осуществляется агентом, который при срабатывании перехватывает взаимодействия и анализирует их в рамках нескольких сеансов на предмет признаков потенциального неправомерного использования.

Новая технология помогает OpenAI обнаруживать вредоносное использование ИИ, которое происходит в течение нескольких сеансов, сообщил представитель компании TechCrunch. Злоумышленник — например, тот, кто пытается создать вредоносное ПО для кибератаки, — может распределять свои запросы во времени, чтобы избежать обнаружения. Private Safety Processing может анализировать эти несколько разговоров на предмет признаков злоупотреблений без проверки разговоров пользователя человеком.

В случае срабатывания системы она может отправить в OpenAI «узко определенный сигнал», предупреждающий о конкретном типе активности, сообщает компания. На основе этого сигнала OpenAI может решить, «необходимы ли меры принуждения». Если да, OpenAI свяжется с клиентом для получения дополнительного контекста или для совместной работы над проблемой, и клиент может по своему усмотрению поделиться данными с OpenAI, добавил представитель.

Для сравнения, Anthropic отмечает, что проверка данных клиентов человеком может происходить, но только «через контролируемый путь доступа», который включает «небольшой набор одобренных проверяющих». Каждый такой сеанс проверки «записывается в журнал, защищенный от несанкционированного доступа, который проверяющие не могут скрыть или изменить», сообщает компания.

Конкуренция между OpenAI и Anthropic сейчас очень напряженная: обе компании ищут любую возможность получить преимущество. Недавний отчет показал, что продажи OpenAI во втором квартале росли медленнее, чем у Anthropic. Годовой темп выручки Anthropic, по сообщениям, теперь составляет 65 миллиардов долларов. Инвесторы Anthropic заявили, что компания может провести IPO на 2 триллиона долларов, в то время как OpenAI также работает над своим IPO.