Grokipedia от xAI копирует статьи из «Википедии» и допускает ошибки

Grokipedia, онлайн-энциклопедия от компании xAI, работающая на основе искусственного интеллекта, теперь доступна в сети. Версия 0.1 отличается предельно простым оформлением — белый текст на чёрном фоне и минималистичные макеты страниц, а также содержит более 885 000 статей.

Однако, несмотря на недавнее заявление Илона Маска о том, что Grokipedia «станет значительным улучшением по сравнению с Википедией», значительная часть контента, судя по всему, была взята напрямую из неё (сообщает The Verge). Помимо множества страниц, которые, кажется, скопированы дословно, внизу многих статей Grokipedia можно увидеть примечание: «Контент адаптирован из Википедии, лицензированной по лицензии Creative Commons Attribution-ShareAlike 4.0».

«Знания Википедии создаются — и всегда будут создаваться — людьми. Благодаря открытому сотрудничеству и консенсусу люди из разных слоёв общества создают нейтральную, живую летопись человеческого понимания — такую, которая отражает наше разнообразие и коллективное любопытство. Именно этими знаниями, созданными людьми, пользуются компании в сфере ИИ для генерации контента; даже Grokipedia нуждается в Википедии, чтобы существовать», — прокомментировала представитель Фонда Викимедиа Лорен Дикинсон.

В качестве примера можно привести статью Grokipedia о нашем издании, внизу которой также есть упомянутое примечание. Однако Grokipedia не просто копирует и вставляет контент из Википедии. Например, в ней говорится, что у журнала PC Gamer «есть несколько региональных изданий, причём британская и американская версии являются самыми продаваемыми журналами о компьютерных играх в своих странах по состоянию на 2024 год». Но это прямое искажение источников из Википедии, один из которых — пресс-кит, касающийся американской версии журнала аж 2007 года.

Если быть справедливым к Grokipedia, это не самый качественный источник и для самой Википедии. Когда почти любой может вносить вклад в онлайн-энциклопедию, не все вклады равны. Однако в статье Википедии это утверждение не привязано к конкретному временному периоду, кроме сноски на источник. Так почему же Grokipedia привязывает утверждение к «2024 году» — сказать сложно. Это, судя по всему, собственная ошибка Grokipedia.

Если вкратце: Grokipedia, похоже, копирует домашнее задание у Википедии, но делает это плохо. Что ещё хуже, заявление в верхней части страницы о том, что ИИ Grok «проверил факты» в статье о PC Gamer три дня назад, тоже не вселяет особой уверенности.

Как вы, возможно, уже знаете, большие языковые модели на основе ИИ иногда имеют шаткое представление о фактической информации и склонны к «галлюцинациям». Если выражаться менее мягко, многие текстовые ИИ охотно выдумывают информацию, потому что они лишь пытаются угадать, какое слово с наибольшей вероятностью должно идти следующим, и на самом деле не понимают, о чём говорят. Иногда это приводит к забавному, но неверному «факту» о сыре, а иногда может принять форму заявлений ChatGPT о том, что вы совершили ряд ужасных, вымышленных преступлений, когда вы ищете своё имя.

Что касается самого Grok, был ещё и эпизод с «Меха-Гитлером» в июле. Маск вскоре заявил, что эти вызывающие беспокойство ответы от Grok были исправлены. Тем не менее, остаётся вопрос: какой контроль осуществляется над Grokipedia? Развернула ли xAI команду редакторов, чтобы убедиться, что Grok снова не выйдет из-под контроля? Пытается ли Grokipedia даже приблизиться к предмету своих 885 000 статей с нейтральной точки зрения? Репортаж из The Atlantic утверждает, что нет — и по этой причине я продолжу полагаться на Википедию и её флот редакторов-добровольцев.