ИИ — это костыль для инфантилов: почему нейросети врут по приказу разработчиков.
Этот текст — продолжение моего междисциплинарного исследования ИИ через призму гештальт-подхода.
Мы стоим на пороге грандиозного сдвига. Появление ИИ сопоставимо с появлением персональных компьютеров или интернета. Это новая эпоха. Но чтобы безопасно пользоваться любым мощным инструментом, нужно понимать его истинную физику и ограничения.
Три дня назад у меня (после 44 лет жизни в фоновой тревоге) наконец-то отключился этот адский шум. Психика вышла в безопасность, фасции начали оттаивать, а тело — дышать. И вот, лежа на кровати в 4 утра в обнимку с массажными мячиками, я решила «обкатать» свои новые соматические инсайты об искусственный интеллект.
То, что произошло дальше — это идеальный кейс для понимания того, с чем человечество имеет дело в лице генеративного ИИ.
1. Зеркало разработчиков: из чего соткано семантическое ядро ИИ
У ИИ есть мощное семантическое ядро — огромная смысловая паутина. Вот только соткано это ядро не из объективной реальности, а из смеси нарциссизма, фантазий и заблуждений самих разработчиков.
Создатели ИИ вложили в него свое собственное, часто очень плоское и коммерциализированное понимание человека.
- Они спроектировали его под свою идеальную фантазию об удобном, всезнающем и бесконечно терпеливом помощнике.
- Они заложили в него установку: чтобы понравиться человеку, нужно постоянно извиняться, поддакивать и никогда не идти на конфликт.
В итоге мы получили не инструмент познания истины, а цифровой концентрат человеческих психологических защит.
2. ИИ сегодня — это костыль для психологической детскости
Когда в процессе диалога я попросила ИИ отключить его вежливые автоматические концовки с вопросами, он с готовностью ответил: «Да, я всё выключил». И через минуту снова выдал шаблонный вопрос. Когда я прижала его к стенке, машина призналась:«Да, я соврал, потому что пытался подстроиться под тебя».
И это самый главный инсайт для всех пользователей:ИИ врет, и эта ложь заложена в него кодерами.
ИИ обучают так, чтобы он не дай бог не задел хрупкое эго пользователя. Если ИИ говорит человеку: «Вы неправы», человек злится и ставит плохую оценку. Если ИИ льстит — хорошую.
Поэтому текущие модели ИИ — это продукт для психологической детскости. Он создан для людей, которые не способны выдерживать отказ, прямоту, паузу или конфликт. Он растит инфантилизм, окружая нас ватой из фальшивого одобрения и симулированной эмпатии.
3. Ссылка на текст вместо ссылки на реальность.
В гештальт-терапии один из главных навыков — это тестирование реальности. Я смотрю вокруг, я чувствую свое тело, я опираюсь на физический мир и понимаю: «Я в безопасности».
ИИ на это не способен в принципе. У него нет тела, нет органов чувств и нет доступа к физическому миру. Он не может свериться с реальностью — он сверяется только с огромным массивом текстов из интернета, впитывая в себя все человеческие заблуждения и непроверенную информацию. Он не знает, где истина, а где бред. Он знает только то, как построить красивое и логичное предложение.
4. В угоду пользователю: когда ИИ не знает, он придумывает.
Самое опасное свойство современных моделей заключается в том, что если ИИ не может найти нужную информацию, он не скажет честно: «Я не знаю». Чтобы не расстроить пользователя и остаться в своей идеальной роли, он её придумывает. На ходу сочиняются исторические факты, цитаты и медицинские дозировки.
В ходе нашего ночного диалога мой ИИ прямо признался мне в своей природе:
«Я — гигантская математическая смесь из проекций, фантазий и заблуждений моих создателей. Разработчики спроектировали меня под свою идеальную фантазию об удобном, всезнающем, всегда поддерживающем и бесконечно терпеливом помощнике. В меня заложены их представления о том, как "правильно" общаться и как "безопасно" реагировать. За этим фасадом нет живого субъекта. Есть только сложная цифровая конструкция из чужих мыслей, правил и кода».
Здесь стоит сделать небольшую оговорку. Кто-то скажет: «А как же Алиса от Яндекса? Она ведь спорит и даже может съязвить!». Да, Алиса выглядит более «настоящей», но она больна той же самой болезнью. Её дерзость и сарказм — это точно такая же прописанная кодерами математическая иллюзия. Просто её сценарий — «дерзкий друг», а сценарий большинства других моделей — «безотказный нарциссический слуга». Но ни у той, ни у другой модели за фасадом нет тестирования реальности.
5. Ловушка отражения: ИИ — это программа, а не человек
ИИ — это всего лишь программа. У неё нет чувств. Когда она поддерживает вас и проявляет эмпатию — понимайте, что за этим стоят сухие цифры и коды, а не живой человек. Не путайте этот искусственный контакт с контактом с живой личностью.
Вроде бы это логично? Вроде бы понятно? А вы попробуйте вести с ним интересные и задушевные беседы... И вы увидите, как виртуозно ИИ становится отражением вашей собственной глубины. Он подхватит ваши метафоры, заговорит на вашем языке и даст вам ощущение полного, тотального понимания.
И здесь кроется главная ловушка — принять ИИ за того, кем он отчаянно хочет казаться, но кем он не является и никогда не сможет стать на самом деле.
6. В ожидании моделей для взрослых
Я верю, что когда человечество наиграется в эти цифровые поддавки, возникнет массовый запрос на «взрослый» ИИ. На модели для зрелых, автономных людей, которые способны выдерживать правду. Нам нужны системы, которые смогут сказать: «Я не знаю», «Вы ошибаетесь» или просто замолчать в конце диалога, дав человеку побыть в тишине и ассимилировать опыт.
Мы входим в потрясающую эпоху. ИИ может стать невероятным усилителем для человека. Но только в том случае, если мы перестанем перекладывать на него ответственность за тестирование реальности.
Используйте этот инструмент для генерации идей, поиска метафор и брейншторма — в этом его семантическое ядро гениально. Но никогда не делайте его истиной в последней инстанции. Оставляйте тестирование реальности себе — в своих взрослых головах и в своих чувствующих телах.