Вирусный пост на Reddit о мошенничестве в приложении доставки еды оказался сгенерирован ИИ

Пользователь Reddit, выдававший себя за информатора из компании, занимающейся доставкой еды, оказался фейком. Его вирусный пост, в котором он обвинял своего работодателя в эксплуатации водителей и пользователей, был сгенерирован искусственным интеллектом.

В своём посте, набравшем более 87 000 голосов и попавшем на главную страницу Reddit, «инсайдер» заявлял, что компания, в которой он работает, использует юридические лазейки для кражи чаевых и заработной платы водителей. Он писал:

«Вы всегда подозреваете, что алгоритмы настроены против вас, но реальность на самом деле гораздо более удручающая, чем теории заговора».

Журналист Кейси Ньютон из издания Platformer связался с автором поста, который предоставил ему фотографию своего якобы бейджа сотрудника UberEats и 18-страничный «внутренний документ». В документе описывалось использование компанией ИИ для определения «индекса отчаяния» отдельных водителей. Однако в ходе проверки Ньютон понял, что стал жертвой мистификации.

«На протяжении большей части моей карьеры до этого момента документ, предоставленный мне информатором, показался бы весьма достоверным во многом потому, что на его подготовку ушло бы так много времени, — написал Ньютон. — Кто бы стал тратить время на составление подробного 18-страничного технического документа о рыночной динамике, просто чтобы троллить репортёра? Кто бы стал заморачиваться с созданием фальшивого бейджа?»

Проверка с помощью инструмента SynthID от Google подтвердила, что изображение бейджа было создано с помощью ИИ. Основатель Pangram Labs Макс Сперо, чья компания разрабатывает инструменты для обнаружения текста, созданного ИИ, отмечает, что проблема «искусственного спама» в интернете обострилась.

«ИИ-помойка в интернете стала намного хуже, и я думаю, что часть этого связана с возросшим использованием LLM, но есть и другие факторы, — сказал Сперо. — Есть компании с миллионными доходами, которые могут платить за «органическое вовлечение» на Reddit, что на самом деле означает попытку стать вирусными с помощью сгенерированных ИИ постов, упоминающих ваш бренд».

Хотя существуют инструменты для определения поддельного контента, они не всегда надёжны, особенно когда речь идёт о мультимедиа. Даже если фейковый пост в итоге разоблачат, он уже может стать вирусным. Этот случай не единственный: как выяснилось, в тот же уик-энд в Reddit было более одного вирусного фейка о доставке еды, созданного ИИ.

Интересный факт: В 2024 году компания DoorDash действительно урегулировала коллективный иск на сумму 16,75 млн долларов (около 1,34 млрд рублей) по обвинению в удержании чаевых водителей. Это показывает, насколько правдоподобными могут казаться подобные сфабрикованные истории, основанные на реальных скандалах в индустрии гиг-экономики.