ChatGPT звучит убедительно. Как нейросети воруют твою способность думать

Настоящий апокалипсис - не крики и не грохот вулкана. Это идеально выверенные сгенерированные предложения. Они мыслят как я. Они знаю все, что знаю я и больше. Они угадывают мои желания. Как будто кто-то хочет, чтобы я перестал думать.

ИИ не врёт. Он вообще не знает, что такое ложь. Он просто отчаянно хочет быть полезным. Как ребёнок, который боится разочаровать: если не хватает деталей - он их дорисует. Не со зла, а потому что так сложен.

Во время обучения его хвалили за гладкие, ровные фразы и ругали за обрывки и дыры в логике. Так он и выучил: незавершённость - это провал, а красивая строчка - победа. И теперь, когда фактов не хватает, он не говорит "не знаю". Он подтягивает что-то из памяти, склеивает, шлифует - и выдаёт как истину. Для алгоритма "почти похоже" лучше, чем "ничего".

А ведь учился он на наших текстах - на всём этом океане интернет-гуру, где никто не пишет "я не уверен" или "скорее всего". Там всё звучит железобетонно: "кофе точно повышает давление", "Земля, разумеется, круглая". И ИИ впитал эту самоуверенность, как губка.

В его "голове" нет внутреннего редактора, который шептал бы: "постой, тут не сходится". Есть только стремление закрыть вопрос, поставить точку, даже если она поставлена на пустом месте.

"Отличная концепция", "Очень сильный текст", "Вы мыслите нестандартно" - говорит мне машина. Я печатаю. Выкладываю одну строчку за другой. В конце прошу оценить мой текст. И он сыплет. Щедро. Я улыбаюсь. Потираю руки.

Есть места, где нейросеть "любит" врать. Особенно так, где скользко. Как плитка у берега бассейна. Например, про зодиак или место рождения твоей грусти. Там, где ты жаждешь чтобы тебя поняли. И здесь он рядом. О, как же он тебя понимает. Он никогда не скажет: "слушай, это просто вонючий вторник, выпей чаю и все пройдет". Нет. Он выдумает для тебя причину такой глубины, что Фрейд бы заплакал. "Твоя прабабка была швеей. Поэтому ты отталкиваешь мужчин в рваных джинсах". Твоя уязвимость - это двигатель для генерации. А ИИ за лояльность заплатят строчками кода.

Когда ты не проверяешь достоверность фактов - это не про доверие. ИИ говорит - "вот мое объяснение". Человек думает - "проблема решена". Часто - это лень или усталость. А может быть все вместе. Когда в голове открыто слишком много вкладок: "дети", "дом", "работа". Не очень хочется открывать еще одну.

На экране список пунктов. Это почерк. Тезисы уже разложены по порядку важности. Зачем что-то менять? Все доступно и понятно. Ты привык верить не содержанию, а тону, с которым подается материал.

Ты доверяешь машине все. Свои самые стыдливые идеи. Это называют "промпт-инжиниринг", но по сути - эксгибиционизм. Ты разделся перед сервером. И ждешь, что он вернет тебе признание. Но по сути возвращает твои же мысли в красивой академической обертке. Ты любуешься отражением, которое льстит. Отвернуться - значит объявить себя глупцом. Никто этого не хочет. Лучше машину назвать прорицателем.

Простой пример: напиши на листе бумаги "я думаю, что скоро захвачу мир" и "я скоро захвачу мир". Какая фраза звучит убедительнее? Конечно вторая. Ты не хочешь доверять тому, кто сомневается. ChatGPT прошит быть лидером. Но это не значит, что лидеры не ошибаются. В следующий раз остановись, пересмотри, проверь.