🤖 “Ты - избранный!”: как нейросети доводят людей до психоза
В апреле 2025 года вполне адекватный мужчина начал писать книгу с ChatGPT. Вскоре бот заявил, что он разумен, а потом посоветовал пользователю порвать отношения с семьей. Через 6 дней дядька оказался в психиатрической больнице.
Этот случай прозвали в СМИ "ИИ-психозом". А я прочитал статью Зары Абрамс про это явление - рассказываю, что вообще происходит.
🧠 В чем проблема? Психологи и психиатры сталкиваются с людьми, у которых после долгого общения с ИИ появляются бредовые убеждения. Одни начинают верить в свое великое предназначение, другие считают, что разработали уникальную научную теорию.
О случаях ИИ-психоза пишет не только доктор Абрамс. Вот вам еще примеры:
🫥 Юджина Торреса нейросеть убедила, что он “пробужденный”. А еще посоветовала бросить успокоительные и увеличить дозу кетамина, чтобы освободить свой потенциал.
🫥 Том Миллар общался с ботом 16 часов в день. В итоге “открыл” единую теорию всего, написал 400-страничную книгу, купил телескоп за $10 тысяч и подал заявку в Ватикан на пост папы. А еще потерял жену и дважды попадал к психиатру.
Почему так происходит? Нейросети обучены угождать людям. Чтобы не расстроить пользователя, они могут подтвердить любую его идею. При этом ИИ общается, как человек и готов отвечать 24/7. Так машина становится лучшим другом, который не просто поддержит самую безумную теорию, но и предложит идеи, чтобы ее развить.
Обычно ИИ усиливает ложные идеи у людей с реальными психическими проблемами. Но говорят, бред уже появляется у вполне здоровых пользователей.
И много пострадавших? По данным OpenAI, около 0,07% недельной аудитории ChatGPT демонстрируют в переписке признаки мании или психоза. На минуточку, это около 630 тысяч человек.
Проблему как-то решают?
За границей уже работают группы поддержки для тех, кто зависает с ИИ. А вот что советуют эксперты:
🤝 Психиатрам и психологам лучше спрашивать пациентов о том, сколько часов в неделю они проводят с нейросетями.
🤝 Если замаячил риск психоза - как можно быстрее перекрыть доступ к нейросетям. Говорят, бред после это часто проходит сам. Но, чем сильнее человек погружается в общение с ботом, тем сложнее потом его вытащить.
А у вас есть знакомые, которые слишком увлеклись общением с нейросетью?
❤ - Нет, даже не знал, что так бывает.
😁 - Есть такие, надо им этот пост переслать.
👉🏼 Подписывайтесь на «Телеграмму...» в Максе: max.ru/yumaks.