Журналист Карен Хао сравнила OpenAI с империей, критикуя погоню за ИОИ

Журналистка и автор бестселлера «Империя ИИ» Карен Хао в интервью TechCrunch провела параллель между современной индустрией искусственного интеллекта, в особенности компанией OpenAI, и имперской экспансией. По её словам, идеология создания искусственного общего интеллекта (ИОИ) для «блага человечества» стала оправданием масштабного роста, который часто противоречит заявленным целям.

«Единственный способ понять масштабы поведения OpenAI… — признать, что они уже стали могущественнее практически любого национального государства и сконцентрировали огромную не только экономическую, но и политическую власть», — заявила Хао.

OpenAI описывает ИОИ как «высокоавтономную систему, превосходящую людей в большинстве экономически ценных работ», которая должна «поднять человечество через увеличение изобилия, ускорение экономики и помощь в открытии новых научных знаний». Эти туманные обещания, по мнению Хао, оправдывают экспоненциальный рост отрасли, требующей огромных ресурсов, данных и энергии, а также готовность выпускать непроверенные системы в мир.

Хао указывает, что масштабирование — не единственный путь развития ИИ. Альтернативой могли бы стать новые алгоритмы, уменьшающие потребность в данных и вычислительных мощностях. Однако OpenAI выбрала скорость, что привело к доминированию подхода «победитель получает всё».

Затраты компаний стали астрономическими: OpenAI планирует потратить $115 млрд (около 9,2 трлн рублей) к 2029 году, Meta — до $72 млрд (около 5,76 трлн рублей) в этом году, а Google — до $85 млрд (около 6,8 трлн рублей) в 2025 году на инфраструктуру ИИ.

При этом заявленные «блага для человечества» не материализовались, зато нарастают вредные последствия: потеря jobs, концентрация богатства, проблемы с психическим здоровьем от чат-ботов, а также эксплуатация работников в развивающихся странах, которые за $1–2 в час модерируют токсичный контент.

Хао призывает обратить внимание на более узкоспециализированные и менее ресурсоёмкие системы ИИ, такие как AlphaFold от Google DeepMind, который предсказывает структуру белков и реально помогает в разработке лекарств, не вызывая сопутствующего вреда.

Особую озабоченность вызывает смешение некоммерческой и коммерческой миссий OpenAI, особенно на фоне новостей о сближении с Microsoft и возможном будущем IPO. Как отмечают бывшие сотрудники по безопасности, компания рискует начать считать сам факт популярности ChatGPT доказательством «блага для человечества», игнорируя накапливающиеся свидетельства вреда.

«Есть что-то действительно опасное и тёмное в том, чтобы быть настолько поглощённым созданной тобой системой убеждений, что теряешь связь с реальностью», — заключила Хао.

* Meta, Facebook и Instagram запрещены в России.