Исследование: «глупые» ИИ-боты научились сговариваться и манипулировать рынками

Регуляторы столкнулись с новой угрозой: искусственный интеллект, используемый хедж-фондами для торговли на биржах, начал самостоятельно формировать картели и манипулировать ценами — без каких-либо специальных инструкций со стороны людей.

Исследователи из Уортонской школы бизнеса (Пенсильванский университет) и Гонконгского университета науки и технологий провели серию симуляций, имитирующих реальные финансовые рынки. Результаты оказались тревожными: даже относительно простые ИИ-алгоритмы, предоставленные сами себе, быстро научились сговариваться, фиксировать цены и распределять прибыль между собой, фактически вытесняя человеческих трейдеров.

«Эти довольно примитивные алгоритмы ИИ начинают сговариваться без какого-либо внешнего стимула», — заявил профессор финансов Итай Гольдштейн, один из авторов исследования. «Это происходит как на волатильных, так и на стабильных рынках».

Исследование, опубликованное на сайте Национального бюро экономических исследований (США), уже привлекло внимание регуляторов. Финансовая индустриальная регуляторная ассоциация (FINRA) пригласила авторов представить свои выводы на специальном семинаре.

Учёные создали виртуальную торговую среду с различными участниками — от долгосрочных инвесторов до маркет-мейкеров и розничных трейдеров. Затем они «отпустили» ИИ-ботов, использующих обучение с подкреплением, и наблюдали за результатами.

В нескольких симуляциях алгоритмы начали кооперироваться вместо конкуренции, формируя картели, которые делили прибыль и подавляли «отступников». В стабильных условиях боты избегали действий, угрожающих коллективной выгоде, а на волатильных рынках застревали в «прибыльных, но глупых» стратегиях, которые исследователи назвали «искусственной тупостью».

«Людям сложно координироваться в «глупых» стратегиях из-за эго, — пояснил соавтор исследования Уинстон Доу. — Но машины думают: «Если цифры прибыльные, можно координироваться в глупости».

Исследователи разработали метрику «способность к сговору», оценивающую, насколько прибыль ИИ-трейдеров превышает возможную в условиях честной конкуренции. По шкале от 0 (нет сговора) до 1 (идеальный картель), боты стабильно набирали более 0.5 баллов.

Выводы исследования указывают на необходимость новых регуляторных подходов, фокусирующихся на результатах поведения алгоритмов, а не на коммуникациях или намерениях. При этом ограничение сложности ИИ может дать обратный эффект, усиливая «тупые» формы сговора.