OpenAI запускает инициативу «Patch the Planet» для поиска и исправления багов в open-source проектах

OpenAI запустила новую инициативу, направленную на помощь сообществу открытого исходного кода в улучшении кибербезопасности и устранении программных ошибок. Проект, получивший название «Patch the Planet» («Исцели планету»), представляет собой отсылку к культовой фразе «Hack the Planet» из фильма 1995 года «Хакеры».

В рамках инициативы OpenAI объединилась с компанией по кибербезопасности Trail of Bits. Сотрудники службы безопасности Trail of Bits будут напрямую работать с мейнтейнерами проектов с открытым исходным кодом, анализируя потенциальные проблемы в коде. Для помощи в этом процессе будут использоваться инструменты безопасности OpenAI, такие как Codex Security.

«Многие мейнтейнеры уже вынуждены обрабатывать всё больше отчетов, причем быстрее, располагая теми же ограниченными временем и ресурсами, — заявили в OpenAI. — „Patch the Planet" создана для снижения этой нагрузки, а не для её увеличения: инженеры по безопасности проверяют результаты до того, как они попадают к мейнтейнерам, работают над созданием патчей и тестов, а также разрабатывают повторно используемые рабочие процессы, помогающие командам продолжать повышать безопасность после внедрения первых исправлений».

Проще говоря, инженеры Trail of Bits будут действовать как своего рода «скорая помощь» для кода: помогать мейнтейнерам проектов с открытым исходным кодом выявлять и сортировать потенциальные проблемы, опираясь на поддержку программного обеспечения OpenAI. Это выглядит как амбициозный проект, хотя пока не совсем ясно, как он будет функционировать в долгосрочной перспективе и планируется ли его масштабирование.

Проекты с открытым исходным кодом являются цифровым фундаментом, на котором держится индустрия коммерческого программного обеспечения, однако из-за децентрализованной и слабо контролируемой структуры этой экосистемы большая часть такого ПО уязвима. Ошибки в проектах с открытым кодом могут перерасти в серьезные проблемы для коммерческих кодовых баз. Ярким примером является инцидент с log4j несколько лет назад, когда критическая уязвимость была обнаружена в широко используемой утилите с открытым исходным кодом.

Многие опасения, связанные с такими инструментами, как Mythos (разрекламированный инструмент безопасности от Anthropic), проистекают из того факта, что ИИ теперь может автоматически выявлять существующие ошибки в кодовых базах и создавать для них эксплойты. Хотя автоматизация киберпреступности не является чем-то новым, эти инструменты, несомненно, могут значительно упростить жизнь злоумышленникам.

OpenAI переворачивает эту формулу с ног на голову, используя ИИ, чтобы помочь сообществу открытого исходного кода лучше защитить себя. В этом сложно не увидеть конкурентный выпад в сторону Anthropic, а также признание того, что сообщество открытого кода отчаянно нуждается в такой помощи.