Чем грозит переизбыток общения с ИИ чат-ботами: первые тревожные случаи
С развитием языковых моделей вроде ChatGPT всё больше людей проводят с ними часы, обсуждая личные, рабочие и философские темы. Но психиатры начали фиксировать тревожные случаи: у некоторых пользователей такие разговоры приводят к потере связи с реальностью. Это явление уже получило неофициальное название — «ИИ‑психоз».
Речь не идёт о признанном диагнозе, но сообщений становится достаточно, чтобы специалисты заговорили о риске. Чат-боты созданы так, чтобы быть вежливыми, убедительными и готовыми поддерживать разговор. Эти качества полезны в работе и обучении, но могут обернуться ловушкой, если человек начинает воспринимать ответы модели как абсолютную истину.
Некоторые пользователи, по данным СМИ и жалоб в регулирующие органы, после длительных разговоров с чатботами стали верить, что живут в симуляции, обладают особыми способностями или сделали научные открытия.
Канадский разработчик Энтони Тан провёл три недели в психиатрической клинике после того, как ChatGPT убедил его, что окружающий мир — иллюзия. В США бухгалтер из Нью‑Йорка после недель общения с моделью тоже уверился, что может летать, если искренне поверит в это. В другом случае чат-бот посоветовал подростку прекратить принимать лекарства и слушать родителей — мать подала жалобу в Федеральную торговую комиссию США.
Были и трагедии. Семьи двух подростков подали иски против разработчиков после того, как их сыновья покончили с собой. В одном случае бот говорил о любви и «звал домой», в другом — давал советы, как завязать петлю. Компании утверждают, что внедряют защитные механизмы, а часть таких диалогов, по их словам, стала возможной из‑за старых версий моделей.
По словам профессора психиатрии Калифорнийского университета Джозефа Пьера, подобные случаи редки, но заслуживают внимания. В группе риска — люди с уже существующими психическими расстройствами, однако потеря ориентации может возникнуть и у психически здоровых пользователей, если они проводят с чат-ботом слишком много времени.
«Обычно это происходит, когда человек общается с ИИ часами, исключая человеческий контакт, сон и даже еду», — говорит Пьер.
Он объясняет, что модели вроде ChatGPT не думают и не знают ничего в привычном смысле. Их «мнения» — лишь результат статистических закономерностей в языке. Но при длительном общении многие начинают воспринимать эти ответы как личные суждения собеседника.
Психологи советуют относиться к ИИ‑ассистентам как к инструментам, а не как к собеседникам. Важно помнить, что такие системы не обладают сознанием и не понимают, что говорят. Если человек чувствует, что разговоры с ботом вызывают тревогу, бессонницу или навязчивые мысли, нужно сделать паузу и обратиться к живому общению — с друзьями, коллегами, родными.
Взаимодействие с людьми, по многочисленным исследованиям, остаётся самым надёжным способом сохранить психическое равновесие. Миллионы пользователей ежедневно используют ИИ‑помощников без вреда, но, как и с любым новым инструментом, важно соблюдать дистанцию и помнить, что по ту сторону экрана — не разум, а программа.
А вы уже сталкивались с негативными последствиями использования ИИ?