Разработчики Soundslice добавили функцию, которую «придумал» ChatGPT

Искусственный интеллект продолжает удивлять — на этот раз ChatGPT «убедил» разработчиков приложения Soundslice добавить несуществующую функцию. Как сообщает 404 Media, этот случай даже получил название «газлайтинг-разработка» (gaslight-driven development).

Soundslice — это приложение для сканирования и оцифровки нотных партитур. Однако ChatGPT начал уверенно рекомендовать пользователям несуществующую функцию — конвертацию ASCII-табулатур (текстового формата записи гитарных аккордов).

Один из разработчиков, Эдриан Холовати, рассказал, что в течение месяца-двух они получали по 5-10 запросов в день от пользователей, пытающихся использовать эту несуществующую возможность. «Я был в недоумении — что вообще происходит?» — признался разработчик.

Анализ логов показал, что источником дезинформации был ChatGPT. Перед командой встал выбор: игнорировать проблему, размещать предупреждения о «фейковой» функции или просто добавить её. Разработчики выбрали третий вариант, потратив несколько часов на реализацию.

Этот забавный случай произошёл на фоне активного продвижения ИИ-технологий такими лидерами индустрии, как Дженсен Хуанг (NVIDIA) и Лиза Су (AMD), а также президентом США Дональдом Трампом.

Интересный факт: в 2024 году ChatGPT уже «галлюцинировал» несуществующие юридические прецеденты, что привело к скандалу в судебной системе США. Теперь ИИ «изобретает» функции для приложений.