Известный учёный-компьютерщик утверждает, что Алан Тьюринг, отец теоретической информатики, выдвинул предложение, которое на протяжении трёх четвертей века ставило развитие искусственного интеллекта на ошибочный путь.

В своем провокационном новом анализе в книге «Ошибка Тьюринга: освобождение от гнета неразумных машин» Питер Дж. Деннинг рассказывает, что позиция Тьюринга в 1950 году отражала убеждение, разделяемое научным сообществом того времени: человеческий интеллект может существовать без тела — и, следовательно, может возникать в программном обеспечении на цифровых компьютерах.

Деннинг также оспаривает убеждение, что машинный интеллект можно подтвердить с помощью имитационной игры (теперь известной как тест Тьюринга).

«Эти два утверждения во многом определили направления исследований и разработок в области ИИ», — пишет Деннинг. «Я исхожу из того, что наше согласие с этими утверждениями привело к тому хаосу в сфере ИИ, в котором мы оказались сегодня».

Он утверждает, что общество, к которому движется искусственный интеллект (ИИ), не достигнет уровня человеческого интеллекта, известного как искусственный общий интеллект (ИОИ), — вместо этого, по его словам, оно будет опасно.

Проблема неявного знания

В основе аргументации Деннинга лежит концепция, называемая неявным знанием. Неявное знание представляет собой обширную область человеческого понимания, которую невозможно выразить словами или зафиксировать в какой-либо символической форме, которую могут обработать машины.

Деннинг выделяет пять основных областей неявных знаний, которые, по его словам, «ускользают от машинного обучения». К ним относятся знания, основанные на здравом смысле, наше повседневное взаимодействие с другими людьми и окружающей средой, наши чувства и восприятия, навыки выполнения задач, а также наша социальная и историческая культура.

Человечество пыталось систематизировать знания, основанные на здравом смысле. Начиная с 1980-х годов, амбициозный проект Дугласа Лената «Cyc» пытался составить всеобъемлющую базу данных фактов, основанных на здравом смысле. После 40 лет работы над проектом было собрано 25 миллионов записей.

«Однако даже эти средства не смогли обеспечить достаточный уровень здравого смысла, чтобы сделать экспертные системы достаточно умными, чтобы быть экспертами», — отмечает Деннинг. «Cyc подтвердил, что большая часть знаний, которые делают людей экспертами, не может быть сформулирована в виде утверждений».

Навыки исполнения представляют собой еще одно непреодолимое препятствие.

«Наши навыки, приобретенные в тысячах областей, невозможно передать машинам», — объясняет Деннинг. «В то время как описания результатов умелогого выполнения задач («знание того, что») часто можно представить в виде битов и сохранить в машине, мы не знаем, как закодировать воплощенные знания для умелого выполнения задач («знание того, как»)».

Этот разрыв демонстрируют музыканты. Деннинг говорит:

«Виртуозный скрипач может исполнять прекрасную музыку, но не может объяснить ученику, как её воспроизвести».

«Даже если робот сможет наблюдать за опытными людьми и имитировать их, не имея биологического тела, он не сможет понять, что чувствует музыкант, исполняя прекрасную музыку, или что чувствует аудитория, слушая её».

К другим примерам неявного знания относятся интуиция, предчувствия, спонтанное творчество и воображение.

Непреодолимая преграда

Препятствием на пути ко всему этому является то, что Деннинг называет «проблемой репрезентации».

Это фундаментальное препятствие на пути к достижению уровня искусственного интеллекта, сравнимого с человеческим, существует потому, что для осуществления любых вычислений данные и инструкции должны быть закодированы в физической форме, которую машины могут распознавать и обрабатывать. Но неявные знания по своей природе сопротивляются такому кодированию.

«За каждым словом скрывается глубокий колодец неявных знаний, которые придают ему смысл, — говорит Деннинг. — Слова — это лишь символические представления значений, а не сами значения. Широко используемые большие языковые модели, такие как ChatGPT, Claude и Gemini, манипулируют только словами; они не могут знать или понимать смысл того, что они говорят».

Это создает непреодолимый разрыв — поскольку мы не можем объяснить или даже понять, как работает неявное знание для людей, мы не можем начать его передавать.

«То, как мы храним неявное знание, во многом остается загадкой», — признает Деннинг. «Все, что мы знаем, это то, что оно воплощено в теле. Мы понятия не имеем, что мы можем наблюдать и измерять в своем теле, чтобы его выявить».

Контекст и культура

Помимо индивидуальных знаний, Деннинг подчеркивает роль контекста — или обстоятельств ситуации, которые придают нашим заявлениям и действиям более широкий смысл и цель.

Контекст открывает бесчисленные смысловые пласты, простирающиеся за любые горизонты. Контекст подсказывает, саркастичен ли человек или искренен, зол ли он или подшучивает. Контекст подсказывает, следует ли проявлять такт или использовать юмор.

«Когда вы начинаете разбираться, откуда взялось предположение о текущем контексте, вы обнаруживаете, что оно основано на предыдущих разговорах в предыдущих контекстах. Каждый из этих разговоров, в свою очередь, основывается на дальнейших предыдущих разговорах и их контексте. Эта закономерность бесконечна и фрактальна», — объясняет Деннинг.

Культурный аспект интеллекта создает аналогичные проблемы.

Культура включает в себя наши ценности, нормы, суждения, историю, сообщества и настроения, даже динамику власти или заботы.

«В человеческих разговорах заложены скрытые предположения, которые придают смысл и значимость используемым словам», — объясняет Деннинг.

«Масштабирование LLM с помощью все более крупных нейронных сетей не позволит им приобрести воплощенные человеческие знания, которые мы называем культурой. LLM не достигнут цели теста Тьюринга: продемонстрировать, что машинное мышление неотличимо от человеческого».

В конечном итоге, говорит Деннинг, между людьми и машинами существует взаимное непонимание: искусственные нейронные сети создадут форму неявного машинного знания, которое люди не смогут понять.

«Машины не могут прочитать наши неявные знания, а мы не можем прочитать их знания», — пишет он. «Мы — пришельцы, находящиеся по разные стороны непреодолимой пропасти».

Это имеет серьезные последствия для безопасности ИИ. Поскольку машины не способны считывать невысказанный человеческий контекст, надежное сопоставление их с нашими намерениями может оказаться невозможным, предупреждает Деннинг.

«Благодаря автоматизации с использованием ИИ, агентные сети машин, вероятно, разовьют собственный машинный интеллект, который не достигнет уровня общего человеческого интеллекта, но все же способен создать серьезные проблемы для людей. Эта угроза серьезнее, чем захват власти сверхинтеллектуальными машинами», — объясняет он.

«У машинного интеллекта другие интересы, и, похоже, ему нет до нас дела. Его способы мышления и решения проблем кажутся нам чуждыми. Мы пока не знаем, как безопасно сосуществовать с этими машинами».

«Чтобы избежать сингулярности, вызванной автоматизацией с использованием ИИ, нам предстоит многое. Начнем с признания того, что привычная культура угасает по мере появления в нашем обществе интеллектуальных машин, и мы не знаем, что нас ждет. Мы отказываемся мыслить как машины или подчиняться им. Мы отказываемся подчиняться игу, навязанному машинами с низким уровнем интеллекта. И самое главное, мы вновь заявляем о своей человечности, вновь утверждаем, чем мы отличаемся от машин, и приветствуем эти отличия».

Запись Известный учёный-компьютерщик утверждает, что настоящий искусственный интеллект человеческого уровня может навсегда остаться недостижимым впервые появилась K-News.