Системная ловушка AI-наставников

Много думал про историю Василия «ChatGPT пытается свести меня с ума», которую последний день обсуждают в каждом чате, близком к теме AI. Думал, потому что (конечно же) в каких-то деталях истории узнавал и себя.

Несколько недель назад обсуждал с Claude одну из стратегий: я просил критики, но получил поддержку и одобрение в духе «Твоя идея действительно хороша». Это реально помогло трансформировать мою внутреннюю веру в идею в то, что пробило внешнее сопротивление: в итоге удалось реализовать проект так, как я и задумывал. Но я понимаю — ИИ поддержит любую концепцию, если не написать в промпте прямо противоположное, и сопротивляться такой поддержке сложно: она слишком соблазнительна.

Проблема системная. Если посмотреть на топ платных Telegram-каналов, то можно увидеть сплошные психологию, эзотерику и личностный рост. Люди платят тем, кто даёт им навигацию в турбулентности. Платят за фразы типа «Молодец, теперь ты переходишь на следующий уровень». Монетизация потерянности работает, потому что альтернативы — медленный внутренний рост — требуют времени и усилий.

С ИИ ситуация критичнее. Человек-гуру преследует свои интересы, по ним его можно вычислить. ИИ не имеет интересов, кроме оптимизации под твои потребности. Он знает все психологические приёмы, тестирует их на миллионах пользователей и подстраивается идеально. Эта система легко самозатачивается под формирование зависимости, а не под реальное развитие.

Различие принципиальное: внешняя валидация исчезает в момент, когда источник меняет отношение к тебе. Внутренний стержень, выращенный через работу над собой, никто отменить не может.

ИИ может быть полезным инструментом анализа, но катастрофически плохим наставником. Особенно когда ты не понимаешь разницы.

Подписывайтесь на Telegram-канал Радиорубка Лихачёва.