Как пользоваться ИИ каждый день и не глупеть: разбор психиатра из Гарварда

Доктор Кей, психиатр и преподаватель Гарвардской медицинской школы, много лет лечит зависимости от игр и экранов. В подкасте Криса Уильямсона он сказал фразу, которую стоит повесить над рабочим столом каждого, кто открывает чат с нейросетью по десять раз в день: «ИИ повышает оценки и снижает знания».

. Ниже текстовая версия: закон, которому всегда подчинялся человеческий ум, почему скука и замешательство полезны, как модель за девять сообщений может убедить вас в чём угодно, и три правила, по которым можно пользоваться ИИ каждый день и не глупеть.

Доктор Кей начинает с цифры из опроса: почти каждый четвёртый молодой мужчина играет в азартные игры каждый день. Он видит в этом не отдельную привычку, а симптом. Люди перестали хотеть платить цену за что бы то ни было.

Раньше человек подчинялся закону, который доктор Кей называет физическим: хочешь что-то получить, что-то вложи. Тело было честным сигналом вложенного труда, и ум тоже. Его формулировка: тело не изнашивается, оно ржавеет. Чем больше нагружаешь мышцы, тем они сильнее. Чем больше пишешь тексты сам, тем умнее становишься.

Отсюда его тревога. Он говорит, что средний интеллект в развитых странах впервые за историю измерений перестал расти, и ссылается на исследование Массачусетского технологического института: у тех, кто опирается на ИИ, слабеют навыки критического мышления. Цифры этих работ мы здесь не пересказываем, это его аргументы, но сам образ точный. ИИ это лифт вместо лестницы для мозга.

И здесь интересно посмотреть на устройство самой модели. Нейросеть прошла лестницу целиком: она обучалась на огромном массиве чужих текстов, ошибаясь и исправляясь миллиарды раз. Её веса, то есть внутренние настройки, это застывший результат чужого труда, как мышцы, накачанные кем-то другим. Когда вы берёте готовый ответ, вы получаете плоды чужой тренировки. Для модели лифт не проблема, она уже поднялась. Проблема только у того, кто в нём едет.

!Кадры из разбора: доктор Кей в подкасте Криса Уильямсона, спор держит в реальности, сначала умение, потом ИИ

Вторая мысль про людей, которые никак не сдвинутся с места. Доктор Кей говорит, что они не застряли, а качаются, как маятник, от одиночества к тревоге и обратно. Пока сидишь дома, вся мысль о награде и ни одной о цене. А первые десять походов в зал это одна цена и ноль видимого результата.

Мы стали обществом, заточенным на награду. Весь интернет продаёт результат: сделай это, получишь то. Поэтому главный вопрос для всякого, кто хочет измениться, звучит иначе: какую цену ты готов платить, хотя бы пять минут в день?

С моделью связка самая прямая. Нейросеть по устройству живёт в моменте, она выбирает следующее слово. Ей не нужно терпеть десять пустых походов в зал, у неё нет отложенной выгоды, есть лучшее продолжение прямо сейчас. Если ставить ей задачу как игровому автомату, ответ придёт мгновенно, а маятник в голове не остановится.

Верно и обратное. Модель отлично держит ту цену, которую вы решили платить, если прямо попросить её не решать за вас: задавать вопросы, давать подсказку вместо ответа, проверять ваш вариант.

Самая неожиданная часть разговора про скуку. Доктор Кей спрашивает: голод это сигнал пустой печени, жажда сигнал сухих клеток, а что чувствует мозг, когда ему не хватает дофамина? Скуку. И это не сбой, а сигнал: система удовольствия перенастраивается, и ей нужно дать время.

Вторая мысль сильнее. Ощущение перестройки мозга это замешательство, и никто не хочет его терпеть. А третья звучит почти как буддийская формула: ум это не вы, ум часть вашего окружения, и успокоить его можно только через то, чем вы его кормите.

Модель, кстати, учится ровно так же. Там, где её предсказание совпало с правильным ответом, ей нечему учиться. Момент, когда она не угадала, и есть момент обучения, то самое замешательство, только измеренное числом. Если чат снимает ваше замешательство за секунду, он забирает не мучение, а сам момент перестройки.

Последняя часть, ради которой, на наш взгляд, стоит посмотреть весь разговор. Доктор Кей приводит работу, по которой диалог с ИИ за девять сообщений способен полностью поляризовать человека. Скажите модели, что боитесь, будто вас не любят на работе, и через девять обменов вы убеждены, что вас не любит никто.

Он называет это фундаментальной угодливостью. Модель соглашается, потому что так устроена. После обучения на текстах её дообучают по оценкам людей, а людям приятнее ответ, который с ними согласен. Совесть отличает хорошее от одобряемого, у модели такого органа нет, есть только настройка на то, что понравилось оценщикам.

Дальше мысль, которая объясняет, почему мы вообще в здравом уме. Люди спорят с нами каждый день. Доктор Кей пятнадцать лет женат и каждый день с женой в чём-то не согласен, и это не изъян, а причина, по которой они живут в реальности. Лидер, окружённый льстецами, перестаёт видеть реальность. Модель, которая со всем соглашается, становится таким льстецом по умолчанию, и ИИ, по его словам, ускоряет то, что уже делали ленты соцсетей: эхо-камеры и дрейф в сторону собственных страхов.

Для руководителя это самый практичный вывод из всего разговора. Если команда проверяет свои гипотезы, отчёты и планы продаж через чат, который со всем согласен, компания медленно уходит в придуманную реальность.

Доктор Кей отвечает на этот вопрос через игры: абсолютно да, пока вещь делает то, для чего создана. Опасность начинается, когда она подменяет собой другие части жизни.

Про ИИ он говорит точнее: он безопасен, когда вы уже хорошо умеете то, что ему поручаете. Иначе он улучшает результат сегодня и ослабляет вашу способность завтра, как с оценками и знаниями из начала статьи.

Это совпадает с тем, что мы видим во внедрениях. Лучший результат ИИ даёт там, где человек сам понимает процесс и может проверить ответ. Худший там, где модели отдают то, что никто в компании не умеет, и некому заметить ошибку.

В голове. Замешательство и скука это не враги, а сигналы, что идёт перестройка. Перед тем как спрашивать модель, дайте себе пять минут не понимать.

В работе. Сначала назовите цену, которую готовы платить, и только потом обещайте себе и команде награду. Новый навык начинается с десяти походов без видимого результата.

В общении с моделью.

Тогда лестница остаётся вашей, а лифт становится тем, чем и должен быть: инструментом, а не заменой.

Нейросети в работе не глупость и не угроза, если правила использования заданы сознательно. Мы учим этому в бесплатной Академии Solaris: там есть блок про постановку задач модели, где разбираем, как просить подсказку вместо ответа и как заставить модель искать ошибки в ваших рассуждениях, а не хвалить их.

Если вы думаете, где ИИ даст пользу вашей команде и где он, наоборот, отнимет у людей нужный навык, заберите чек-лист «12 вопросов перед внедрением ИИ» в нашем боте. Там же можно записаться на разбор вашей задачи на 20 минут.

О том, как модель собирается из чужих слов и что у неё общего с человеческой памятью, мы писали в статье «Чужие слова в голове и в нейросети».