Учёные предупреждают: человеческий язык ошибочно наделяет ИИ сознанием

Использование слов вроде «думает», «знает» или «понимает» для описания искусственного интеллекта может создавать ложное впечатление о его возможностях и природе. К такому выводу пришли исследователи из Университета штата Айова, изучившие, как в новостных статьях описывают ИИ.

Профессор английского языка Джо Маккевич объясняет: «Мы постоянно используем глаголы, описывающие мыслительную деятельность, в повседневной жизни, поэтому логично, что мы можем применять их и к машинам — это помогает нам находить с ними общий язык. Но в то же время, когда мы применяем эти глаголы к машинам, возникает риск стереть грань между тем, что могут делать люди и ИИ».

Этот феномен, называемый антропоморфизмом, приписывает нечеловеческим системам человеческие черты. Учёные проанализировали огромный массив новостных статей на английском языке (более 20 миллиардов слов) и обнаружили, что в новостях антропоморфизм встречается реже, чем можно было ожидать.

Самым частым сочетанием с термином «ИИ» оказалось слово «нуждается» (661 случай), а для ChatGPT — «знает» (всего 32 случая). Исследователи считают, что на это могут влиять редакционные стандарты, например, руководства Associated Press, которые не рекомендуют приписывать ИИ человеческие эмоции или черты.

Важнее самих слов оказался контекст. Например, фраза «ИИ нуждается в больших объёмах данных» описывает техническое требование, а не человеческую потребность. Однако некоторые формулировки, вроде «ИИ должен понимать реальный мир», уже предполагают ожидания, связанные с человеческим мышлением или этикой.

«Наш анализ показывает, что антропоморфизация ИИ в новостях встречается гораздо реже — и гораздо более нюансирована — чем мы могли бы подумать», — отметила Маккевич.

Учёные подчёркивают, что выбор слов формирует у читателей понимание возможностей ИИ и ответственности людей, которые его создают и используют. По мере развития технологий осознанное использование языка будет становиться всё более важным.