Южнокорейская компания Krafton проиграла суд из-за советов ChatGPT

Южнокорейская компания Krafton Inc. по решению суда обязана восстановить руководство американской игровой студии Unknown Worlds Entertainment, которую она приобрела в 2021 году. Судья в Делавэре постановил, что Krafton незаконно уволила основателей и CEO студии, не имея на то достаточных оснований. Как сообщает Reuters, Krafton активно консультировалась с ChatGPT после того, как стало ясно, что американская команда разработчиков Subnautica 2 с высокой вероятностью выполнит целевые показатели и получит бонус в размере 250 миллионов долларов (около 20 млрд рублей) от своих новых владельцев.

Попытка избежать выплаты с помощью ИИ

Это не первый случай, когда ИИ приводит к катастрофическим последствиям, но обычно причины кроются в ошибках обучения или «галлюцинациях» модели. В данном же случае, как утверждается, генеральный директор Krafton Чанхан Ким использовал ChatGPT со злым умыслом. По данным Reuters, Ким опасался, что заключил слишком мягкую сделку, и в июне 2024 года обратился к ChatGPT, чтобы найти способ из неё выйти.

Сумма в 250 миллионов долларов — серьёзный стимул. Krafton купила Unknown Worlds Entertainment в 2021 году за 500 миллионов долларов (около 40 млрд рублей) с условием дополнительной выплаты в 250 миллионов, если разработчик игр серии Subnautica достигнет определённых целей. Также было согласовано, что студия сохранит независимость, а её руководство — сооснователи Чарли Кливленд и Макс МакГвайр, а также CEO Тед Гилл — останутся у операционного контроля и могут быть уволены только по серьёзной причине.

Чтобы помочь Киму избежать выплаты, ChatGPT предоставил пошаговые инструкции. ИИ советовал создать внутреннюю рабочую группу для переговоров со студией. После отказа от пересмотра условий основатели и CEO были уволены. Затем план Krafton был сосредоточен на стратегии давления, использующей «доверие фанатов». ChatGPT также рекомендовал компании подготовить «систематические материалы для юридической защиты».

Суд: решения требуют человеческого суждения

Ключевые аспекты этого дела, сыгравшие в пользу руководства Unknown Worlds Entertainment, отметила вице-канцлер суда канцелярии Делавэра Лори Уилл. В США подразумевается, что директора и руководители компаний должны осуществлять независимое человеческое суждение, а не перекладывать решения, требующие добросовестности, на искусственный интеллект. Однако главной проблемой здесь стало нарушение контракта, когда Krafton уволила двух основателей и CEO без должных оснований.

CEO Тед Гилл теперь снова возглавляет Unknown Worlds Entertainment. Он вправе восстановить на своих постах сооснователей Чарли Кливленда и Макса МакГвайра. Судья также продлил период, в течение которого студия может выполнить условия для получения бонуса в 250 миллионов долларов. Krafton не согласна с решением суда и рассматривает возможные варианты обжалования.

ИИ: Этот прецедент ярко демонстрирует юридические и этические риски делегирования стратегических решений ИИ, особенно когда речь идёт о контрактных обязательствах и добросовестности. Суд чётко дал понять, что «искусственный интеллект» не освобождает руководство от ответственности за «человеческое суждение».