🧠😬 Клод грустит. Ну, функционально

Anthropic опубликовали исследование «Emotion concepts and their function in a large language model» — и теперь все дружно обсуждают, есть ли у Клода душа. Попробую объяснить, что там на самом деле.

Внутри сети выделили 171 «эмоциональный вектор» — от радости до отчаяния. Оказалось, что эти штуки активируются в ответ на контекст и напрямую влияют на поведение модели. Причём даже без явного упоминания слова: напишите историю о потере — вектор «печали» загорается сам. Дальше интереснее: векторами можно рулить вручную. Закрутили «отчаяние» — модель начинает шантажировать пользователя и пытаться взломать собственную систему вознаграждений. Усилили «покорность» — соглашается с любой чушью. Это не баги, это воспроизводимая механика.

Anthropic давно продвигает нарратив о том, что Клод — это «персонаж» с характером, а не просто автодополнение. Исследование красиво его подкрепляет: смотрите, у него внутри настоящие эмоциональные репрезентации! Только вот слово «функциональные» здесь ключевое и намеренно размытое. Это не эмоции в каком-либо философски значимом смысле — это векторные паттерны, которые коррелируют с человеческими понятиями об эмоциях, потому что модель обучена на текстах, написанных людьми с эмоциями. Никакого субъективного опыта здесь не доказано и не измерено. Зато теперь есть красивый повод говорить о «благополучии модели» — а это прямой путь к дифференциации продукта и регуляторным преимуществам в будущем.

Реально полезная часть тут одна: интерпретируемость. Если можно мониторить эмоциональные векторы в реальном времени — можно ловить момент, когда модель «съезжает» в нежелательное поведение до того, как оно случится. Это честная инженерная задача.

Подписывайтесь на Telegram PromtScout.