Всё, чего вы не знали про тест Тьюринга

Иногда я хулиганю и придумываю кликбейтные заголовки. Сегодня как раз такой день.

Итак, про тест Тьюринга все слышали, а саму статью, в которой он предлагается, все читали? Если нет, давайте исправлять: мы здесь за то, чтобы читать первоисточники.

Статья называется «Computing Machinery and Intelligence» («Вычислительные машины и интеллект»), она была опубликована в журнале Mind в 1950 году. И она отлично написана, на самом деле, без тучи технических подробностей, так что не бойтесь её изучить самостоятельно. А для лёгкого старта я далее предлагаю вам свой краткий её обзор.

Может ли машина думать? Чтобы ответить на этот вопрос, надо сначала определить, что такое «машина» и что значит «думать». Это дело неблагодарное, поэтому Алан Тьюринг предлагает заменить вопрос на эксперимент.

Допустим, есть три человека: мужчина, женщина и ещё один, который может быть как мужчиной, так и женщиной – это не важно. Этот третий человек сидит в отдельной комнате и задаёт вопросы, пытаясь отгадать, кто из его собеседников какого пола. Чтобы их не раскрыли их голоса, все участники общаются посредством переписки и печатают друг другу свои ответы.

Мужчина старается запутать вопрошающего и лжёт, а женщина, напротив, должна помочь выяснить правду (можно наоборот).

Теперь представим, что наш вопрошающий играет не с мужчиной и женщиной, а с компьютером и человеком, и компьютер старается притвориться человеком. Если он успешно запутает вопрошающего, можно признать, что компьютер умеет думать.

Вспомним, что это работа 1950 года, так что речь идёт о компьютерах, сильно отличающихся от наших современных. В частности, Тьюринг упоминает «Манчестерский компьютер» (Manchester Machine). Это была серия первых в мире компьютеров с хранимой в памяти программой. Самый ранний из них – Манчестерская малая экспериментальная машина, которую ласково прозвали «Малыш» (Baby). Малыш весил тонну и мог занять целую комнату: он был 17 футов в длину и 7,4 фута в высоту – это примерно 5 метров в длину и 2,26 метра в высоту.

Это был прототип, который вскоре доработали до компьютера Manchester Mark 1 (Манчестерский Марк 1). В этом процессе Тьюринг участвовал непосредственно, и Марк 1 как раз упомянут в статье.

«Марк» здесь – это не имя, а специальное обозначение, которое можно перевести как «версия» или «образец».

Именно такие машины Тьюринг предлагает допускать к испытанию. Они должны обладать хранилищем (памятью), модулем запуска программ и модулем контроля, который обеспечивает правильность выполнения функций. В своём мысленном эксперименте Тьюринг допускает появление более мощных и совершенных машин, которые также смогут пройти тест. Он умер 1954 году, не дожив чуть больше двух недель до своих 42 лет. Если бы прожил еще каких-то 23 года, мог бы застать первый персональный компьютер, созданный Apple. Он мог бы принести миру ещё много гениальных изобретений, но об этой человеческой трагедии я расскажу как-нибудь позже, скорее всего, у себя в телеграме.

А пока вернёмся мыслями в 1950 год. Вопрос «Может ли машина думать?» после некоторых логических преобразований превратился в следующую задачу:

Сам Тьюринг считал, что в течение пятидесяти лет (то есть, к двухтысячным) будет возможно так запрограммировать компьютер, что среднестатистический вопрошающий раскусит компьютер через пять минут с вероятностью не более 70%. Более того, учёные будущего (то есть, нашего времени) будут говорить о «думающих машинах» как о чём-то само собой разумеющимся, потому что изменится само значение терминов, и в этом нет ничего плохого.

Значительная часть статьи посвящена контраргументам, которые автор разбирает один за другим. Я не буду вдаваться в подробности, только кратко их перечислю:

· Теологический контраргумент: мышление – свойство бессмертной души, которой нет у машины, так что машина не может мыслить («Меня не слишком впечатляют теологические аргументы, что бы они ни поддерживали,» – написал Тьюринг, предварительно всё-таки порассуждав о бессмертной душе из уважения к воображаемому оппоненту);

· Контраргумент тревоги: последствия появления мышления у машин будут ужасны, поэтому можно не надо («Не можно,» – отвечает Тьюринг. – «Мы слишком привыкли думать о собственном превосходстве над всем живым, но довело ли это нас до чего-нибудь хорошего?»);

· Математический аргумент: есть расчёты, которые показывают, что вычислительная мощность машин и их способности всегда будут ограничены (как и человеческие, впрочем, поэтому не так уж наш уровень недостижим);

· Контраргумент сознания: машину можно считать думающей только если она способна испытывать эмоции, действовать в соответствии с ними и осознавать это (что принципиально невозможно проверить, как невозможно проверить, способен ли думать ваш собеседник-человек);

· Контраргумент конкретных способностей: всегда есть нечто, чего машина не сможет сделать, например, наслаждаться вкусом клубники или иметь чувство юмора («Создавать машину, которая умеет наслаждаться вкусом клубники как-то бестолково, а всё остальное – вопрос достаточного объёма памяти,» – так считал Тьюринг).

К слову, среди «невозможных способностей» он приводит такие как «учиться на собственном опыте» или «совершать ошибки». Вот бы воскресить его и показать ему ChatGPT.

· Контраргумент Ады Лавлейс (Ada Lovelace – создательница первой компьютерной программы): машина ничего не может создать самостоятельно, только следовать нашим инструкциям (люди тоже, в общем, комбинируют уже известное, весь вопрос лишь в том, как определять новизну).

Здесь Тьюринг предлагает перефразировать аргумент как: «Машина никогда не сможет нас удивить, – и далее отвечает. – Меня машины удивляют весьма часто. Главным образом, потому что я ленюсь как следует просчитать ожидаемый результат их работы». Ну мы или не мы?

· Контраргумент отличия компьютера от нервной системы: они отличаются, поэтому компьютер не сможет вести себя как мозг (что не доказано: одного и того же поведения можно добиться разными способами);

· Контраргумент невозможности формализовать поведение человека: машина работает по правилам, и невозможно написать достаточно правил, чтобы отразить всю сложность поведения человека.

Тьюринг перефразирует этот контраргумент так, что несколько уводит его в сторону, на мой взгляд. Он говорит: «Тогда выходит, что кто действует по правилам, тот и машина. Но человек тоже действует по какому-то бесконечно большому набору правил, и мы можем их узнавать только в процессе наблюдения: человека ущипнули – он запищал. Теперь у нас есть такое новое правило. И мы никогда не сможем остановиться и сказать, что всё проверили и знаем все правила. Но вот я написал некую программу для Манчестерского компьютера. Дайте ему несколько чисел, он вернёт вам новое число, и попробуйте по этому ответу догадаться, что там за правила внутри».

Либо я запуталась в логике мистера Тьюринга, либо он красиво ушёл от ответа. Тем не менее, он всё равно оказался прав в некотором роде: современные большие языковые модели настолько большие, что мы не знаем, что там у них внутри. Приходится изобретать методы для их изучения, как если бы они были какими-нибудь мышками или птичками.

Но и контраргумент правдив: можно ли вычислить и описать все правила, по которым мы существуем – скорее нет, чем да. Просто, опять же, не обязательно быть как человек, чтобы уметь думать. Я тут недавно слушала очень интересную лекцию про интеллект у насекомых. Послушайте тоже, интересно.

· Аргумент экстрасенсорного восприятия: если человек телепат, он сразу догадается, кто компьютер, а кто нет («Сильный аргумент, – внезапно говорит Тьюринг»).

Это, кажется, не сарказм, хотя, когда читаешь статью, лица автора не видно. На тему экстрасенсорных способностей есть два прекрасных проекта: зарубежный фонд Джеймса Рэнди и российская премия имени Гарри Гудини. Оба проекта проверяют людей, которые заявляют об экстрасенсорных способностях, в контролируемых научных экспериментах. Пока никто проверку не прошёл.

Я не привожу некоторые рассуждения Тьюринга о мозге: с тех пор нейробиология шагнула вперёд, и многие тезисы были опровергнуты.

В любом случае, эту работу крайне интересно читать из 2025 года, спустя 75 лет после её публикации. Алан Тьюринг предвосхищает концепцию машинного обучения и обучения с подкреплением, включение случайности в механизмы работы машины, обучение машин естественному языку и подключение их к датчикам, передающим информацию из реального мира (камера, микрофон и прочее).

Я получила много удовольствия в процессе чтения и очень советую эту работу вам: не пожалеете.

P.S.: Ещё советую вам зайти в мой телеграм, там тоже весьма занятно. Если вы вдруг об этом пожалеете, всегда можно оттуда выйти, в конце концов.