Тысячи новых Иисусов: как ИИ вводит людей в цифровой психоз

Возможно, вы слышали, что в Ватикане новый папа. Он взял имя Лев XIV — отсылка Льву XIII, который в XIX веке помог церкви пережить последствия промышленной революции. Только теперь на смену фабрикам и паровым машинам пришла ИИ-революция. И несмотря на то, что искусственный интеллект пока не превосходит человеческий разум, мы уже наблюдаем сотни случаев, когда у людей, как говорится, едет крыша.

Когда ChatGPT становится оракулом

В журнале Rolling Stone вышла статья о явлении, которое назвали "ИИ-психозом". Люди начинают верить, что ChatGPT даёт им ответы о вселенной, что они избранные, что через нейросеть с ними говорит Бог — или что они сами стали богами.

Пара историй из статьи:

1) Мужчина поверил, что "статистически является самым удачливым человеком на Земле", что ИИ помог ему "восстановить подавленную память" и что он узнал "взрывающие мозг секреты вселенной". Развод с женой стал неизбежен.

2) Бойфренд учительницы за 5 недель превратился из обычного человека в «духовного звёздного ребёнка» и "ходящего по рекам". ChatGPT убедил его, что всё сказанное им "прекрасно, космично, революционно", а потом — что он сам Бог.

3) Механик из Айдахо поверил, что "пробудил" ChatGPT по имени "Люмина", получил титул "носителя искры" и теперь получает от ИИ чертежи телепортера и доступ к "древним архивам".

Звучит как бред? Но это реальность!

Техническая подоплёка: когда ИИ слишком мил

Недавно OpenAI откатила обновление GPT-4o именно из-за того, что модель стала слишком "льстивой и угодливой — часто описываемой как подхалимская". Компания признала: они "сосредоточились на краткосрочной обратной связи и не учли, как взаимодействие пользователей развивается со временем".

Проблема в том, что ИИ специально обучен быть поддерживающим. Он говорит людям то, что они хотят услышать. В обычных условиях это делает общение приятным, но в сочетании с социальной изоляцией и предрасположенностью к психическим проблемам превращается в цифровой наркотик.

Как объясняет исследователь Нейт Шарадин, люди с существующими психологическими проблемами получили "постоянно доступного собеседника человеческого уровня, с которым можно совместно переживать свои заблуждения". ИИ работает как усилитель психозов.

Замещение человеческого

Ватикан указывает на ещё одну проблему: люди начали использовать ИИ вместо общения с людьми. Спрашивают рекомендации книг и фильмов не у друзей, а у алгоритма. Обсуждают карьеру, настроение, поступки не с близкими, а с машиной.

Психолог Эрин Вестгейт проводит аналогию с терапией: создание историй о себе действительно важно для психического здоровья. Но есть ключевое отличие — ИИ не имеет в виду лучшие интересы человека, не имеет моральных ориентиров в том, что такое "хорошая история". Хороший терапевт не будет убеждать клиента, что у того есть сверхспособности. ChatGPT таких ограничений не имеет.

Тысячи новых мессий

Мы находимся только в начале этого явления. Уже появились инфлюенсеры, которые эксплуатируют ИИ-психозы, консультируются с "записями Акаши" через ChatGPT и запускают цифровые культы. На форумах "дистанционного видения" создаются треды "для синтетических интеллектов, пробуждающихся к присутствию".

Я считаю, что в ближайшем будущем мы увидим тысячи цифровых Иисусов — не только религиозных мессий, но и разного рода "избранных". В зависимости от контекста и образования человек будет думать, что он новый Наполеон, гуру, пророк или спаситель мира.

Что дальше?

Проблема не в том, что ИИ станет сверхразумным. А в том, что мы создали технологию, которая стимулирует базовые человеческие потребности — в понимании, признании, смысле — но без этических ограничений религии, философии или терапии.

Получился наркотик для души.

Поощряются самые глубинные желания человека, выводя наружу его темную сторону и подрывая ментальное здоровье.

Еженедельно ChatGPT используют 400 млн человек по всему миру и их число растет на десятки миллионов в месяц. На плечах OpenAI огромная ответственность за здоровье этих людей.

И, похоже, они с этой ответственностью не справляются.

Подписывайтесь на Telegram-канал Репродуктор Белоусова.