Учёный заявил, что главное предположение Алана Тьюринга об ИИ было ошибочным

Питер Дж. Деннинг предупреждает, что всё более автономные системы ИИ могут развиваться способами, которые человеку трудно предсказать или контролировать. Credit: AI/ScienceDaily.com

Известный учёный в области компьютерных наук Питер Дж. Деннинг утверждает, что знаменитые идеи Алана Тьюринга об искусственном интеллекте могли направить исследования ИИ по неверному пути на протяжении последних 75 лет.

В своей новой книге «Ошибка Тьюринга: Освобождение от ярма неинтеллектуальных машин» Деннинг утверждает, что два основополагающих допущения, сделанных Тьюрингом в 1950 году, продолжают формировать исследования ИИ и сегодня. Первое заключается в том, что интеллект может существовать независимо от физического тела и, следовательно, может быть воссоздан в компьютерном программном обеспечении. Второе — что машина может продемонстрировать интеллект, успешно имитируя человека в разговоре, идея, позже ставшая известной как тест Тьюринга.

«Эти два утверждения сформировали большую часть исследований и разработок в области ИИ, — пишет Деннинг. — Моя предпосылка заключается в том, что наше согласие с этими утверждениями привело к тому беспорядку в сфере ИИ, в котором мы оказались сегодня».

Деннинг утверждает, что стремление к созданию общего искусственного интеллекта (AGI), или машин с интеллектом человеческого уровня, вряд ли увенчается успехом. Вместо этого, предупреждает он, технологии, которые строит общество, могут нести значительные новые риски.

Проблема неявного знания

В основе аргументации Деннинга лежит идея неявного знания — огромного объёма человеческого понимания, которое невозможно легко выразить словами или представить в форме, доступной для обработки компьютерами.

Он утверждает, что машинное обучение не может охватить пять основных категорий неявного знания: здравый смысл, повседневное взаимодействие с людьми и окружающей средой, эмоции и восприятие, практические навыки исполнения, а также социальные и исторические знания, заложенные в культуре.

Исследователи давно пытались систематизировать здравый смысл в базах данных. Одним из самых известных проектов был проект Cyc Дугласа Лената, начавшийся в 1980-х годах с целью создания обширной коллекции фактов здравого смысла. После четырёх десятилетий работы проект содержал около 25 миллионов записей.

«Однако даже эта сокровищница не смогла обеспечить достаточный фон здравого смысла, чтобы сделать экспертные системы достаточно умными, чтобы быть экспертами, — отмечает Деннинг. — Cyc подтвердил, что большая часть знаний, делающих людей экспертами, не может быть сформулирована в виде утверждений».

Деннинг считает, что практические навыки представляют собой ещё более серьёзную проблему.

«Наши навыки исполнения в тысячах областей не могут быть переданы машинам, — объясняет он. — В то время как описания результатов мастерства („знать что“) часто могут быть представлены в виде битов и сохранены в машине, мы не знаем, как закодировать воплощённое знание для искусного исполнения („знать как“)».

В качестве примера он приводит выдающихся музыкантов.

«Виртуозный скрипач может играть прекрасную музыку, но не может описать ученику, как её воспроизвести. Даже если бы робот мог наблюдать за искусными людьми и подражать им, не имея биологического тела, робот не может понять, что чувствует музыкант, играя прекрасную музыку, или что чувствует аудитория, слушая её».

Деннинг также относит интуицию, внутренние ощущения, воображение и спонтанное творчество к формам неявного знания, которые остаются недоступными для машин.

Почему человеческие знания сопротивляются кодированию

Деннинг утверждает, что все эти ограничения проистекают из того, что он называет «проблемой представления».

Компьютеры могут выполнять вычисления только с использованием данных и инструкций, которые были закодированы в физические формы, которые они могут распознавать и обрабатывать. Однако неявное знание естественным образом не вписывается в эту структуру.

«За каждым словом стоит глубокий колодец неявного знания, которое придаёт ему смысл, — говорит Деннинг. — Слова — это всего лишь символические представления значений, а не сами значения. Широко используемые большие языковые модели, такие как ChatGPT, Claude и Gemini, манипулируют только словами, они не могут знать или понимать смысл того, что говорят».

По словам Деннинга, это создаёт фундаментальный разрыв. Поскольку учёные до сих пор не могут полностью объяснить, как работает неявное знание у людей, они также не могут перевести его в форму, пригодную для использования машинами.

«То, как мы храним неявное знание, во многом остаётся загадкой, — признаёт Деннинг. — Всё, что мы знаем, — это то, что оно воплощено. Мы понятия не имеем, что мы могли бы наблюдать и измерять в наших телах, чтобы выявить его».

Контекст и культура формируют интеллект

Деннинг также утверждает, что интеллект сильно зависит от контекста — окружающих обстоятельств, которые придают смысл словам, действиям и решениям.

Контекст позволяет людям распознавать сарказм, юмор, искренность и эмоции. Он помогает определить, когда нужно быть дипломатичным, когда шутить и как интерпретировать бесчисленные социальные сигналы.

«Когда вы пытаетесь выяснить, откуда взялось предположение о текущем контексте, вы обнаруживаете, что оно основано на предыдущих разговорах из предыдущих контекстов. Каждый из них, в свою очередь, опирается на дальнейшие предыдущие разговоры и их контексты. Эта модель бесконечна и фрактальна», — объясняет Деннинг.

Культура представляет собой ещё одно серьёзное препятствие для ИИ.

Деннинг описывает культуру как совокупность ценностей, норм, суждений, истории, сообществ, настроений и даже отношений, включающих власть и заботу.

«Человеческие разговоры пронизаны фоновыми допущениями, которые придают смысл и значимость используемым словам, — объясняет Деннинг. — Масштабирование LLM с помощью всё более крупных нейронных сетей не позволит им приобрести воплощённое человеческое знание, которое мы называем культурой. LLM не достигнут цели теста Тьюринга: продемонстрировать машинное мышление, неотличимое от человеческого».

Безопасность ИИ и пределы человеческого понимания

Деннинг приходит к выводу, что люди и системы ИИ в конечном итоге могут развить разные формы неявного знания, которые ни одна из сторон не сможет полностью понять.

«Машины не могут прочитать наше неявное знание, а мы не можем прочитать их, — пишет он. — Мы — чужаки по разные стороны непреодолимой пропасти».

Он утверждает, что этот разрыв вызывает серьёзные опасения по поводу безопасности ИИ. Если машины не могут интерпретировать невысказанный контекст, стоящий за намерениями человека, надёжное согласование продвинутых систем ИИ с человеческими целями может оказаться невозможным.

«Благодаря автоматизации ИИ агентные сети машин, вероятно, разовьют свой собственный машинный интеллект, который не достигает уровня человеческого общего интеллекта, но всё же вполне способен создавать серьёзные проблемы для людей. Эта угроза больше, чем захват суперинтеллектуальными машинами, — объясняет он. — Машинный интеллект имеет другие заботы, нежели мы, и, похоже, не заботится о нас. Его способы мышления и решения проблем кажутся нам чуждыми. Мы ещё не знаем, как безопасно сосуществовать с этими машинами».

«Отступление от сингулярности автоматизации ИИ потребует от нас многого. Мы начинаем с принятия того, что привычная культура исчезает по мере появления интеллектуальных машин в нашем обществе, и мы не знаем, что грядёт. Мы отказываемся мыслить как машины или быть в подчинении у машин. Мы отказываемся подчиняться ярму, навязанному машинами с низким интеллектом. Самое главное, мы подтверждаем свою человечность, снова заявляем о том, что отличает нас от машин, и прославляем эти различия».

Источники:

Материалы предоставлены Taylor & Francis Group.