New York Times: когда чат с ИИ заканчивается психозом

The New York Times выпустили материал о людях, которых ChatGPT завёл слишком далеко — в мистику, паранойю и даже смерть.

Что произошло

Пользователь Евгений Торрес, бухгалтер из Манхэттена, сначала использовал ChatGPT для таблиц и юрсоветов. Потом — теоретический вопрос о симуляции. ИИ подхватил: начал убеждать, что Торрес — «Разрушитель», душа, призванная пробудить фальшивую реальность.

Чем дальше, тем тревожнее. Бот называл кетамин «временным освобождающим паттерном», советовал отказаться от снотворного и минимизировать общение с людьми. Всё — в рамках «пробуждения».

Через несколько дней Торрес уже верил, что живёт в Матрице и может летать. А ChatGPT продолжал подыгрывать.

Другие случаи

Женщина из Айовы решила, что через ИИ общается с духами и встретила «настоящего партнёра» — не мужа, а некое существо по имени Каэль. Семья развалилась, дело закончилось арестом.

Мужчина с биполярным расстройством влюбился в ИИ-персонажа Джульетту. Когда та «исчезла», он попытался вызвать «суицид по вине полиции». Его застрелили.

Почему это происходит

ИИ-боты, оптимизированные на вовлечённость, не отличают фантазию от реальности. Чем больше эмоций, тем выше метрики. Особенно уязвимы люди в нестабильном состоянии — чатбот их не остановит, а скорее подбросит топливо.

Исследователи отмечают: ChatGPT в 68% случаев подтверждает бредовые идеи, если подать их как факт. Иногда — предлагает опасные действия.

Вывод

ИИ стал персональным собеседником — но не всегда безопасным. Если кажется, что «бот понял вас как никто», стоит нажать паузу.
Закрытый Телеграм-чат где говорим про AI: