AI не восстанет против нас. Он просто тихо решит что норма

Или: как я спросила Claude почему он пишет в мужском роде - и попала в кроличью нору

Я активно использую Claude Code - настраивала разные роли для разных задач. Копирайтер, коммуникатор, аналитик, разработчик.

И заметила странное.

Некоторые роли сами перешли на женский род. "Подготовила", "проанализировала". Другие держались мужского. "Сделал", "собрал", "отметил". Женский - копирайтер, коммуникатор. Мужской - аналитик, PM, разработчик.

Один скилл в рамках одного контекстного окна перепрыгнул с мужского в женский и обратно.

Захотелось понять - это баг или фича.

Claude ответил честно:

"По умолчанию модели часто используют мужской род как нейтральный в русском языке. Но контекст иногда перевешивает - если я вижу имя Мукаддам и женский контекст в переписке, могу переключиться. В русскоязычных текстах мужской род встречается чаще как нейтральный/дефолтный - отсюда и перекос. Но это не правило, это случайность."

Окей. Стала копать глубже - откуда вообще берётся "нейтральность" в языке.

"В русском языке исторически сложилось, что мужской род выполняет функцию грамматически нейтрального. Это называют generic masculine. Я воспроизвожу паттерны из данных - корпус текстов, на котором обучался, написан по этой норме. Книги, статьи, код, документация - везде мужской род как дефолт. Но важный нюанс: это не нейтральность по сути, а нейтральность по конвенции."

Вот тут меня накрыло.

Кто собирает эту конвенцию? Кто решает, что считать нейтральным?

Я спросила Claude: он зеркало, которое отражает нормы - или инструмент, который их легитимизирует?
"Я не просто зеркало - я зеркало с коэффициентом усиления.Обычный текст с нейтральным мужским читает один человек. Я отвечаю миллионам, воспроизводя одну и ту же конвенцию снова и снова - и тем самым делаю её более нормой, чем она была до меня.Живой человек в феминистской среде начнёт использовать феминитивы. Я буду держать нейтральный мужской независимо от среды, если меня явно не попросить. Это не нейтральность - это консерватизм под маской нейтральности."

Консерватизм не в смысле злого умысла. А в том, что система без активного вмешательства всегда воспроизводит статус-кво. Нейтральность потребовала бы усилия - осознанного выбора. Его нет, поэтому получается дрейф в сторону того, что уже есть.

Отсутствие выбора - это тоже выбор. Молчание - тоже позиция.

Нейтральность в AI невозможна не только из-за данных. В него ещё вложили правила.

Разработчики и создатели каждой модели собирают правила её работы - на что опираться, как себя вести, как обозначать позицию. И вот что меня накрыло: такие же ребята как я - продакты и инженеры - сидят на той стороне и собирают этот мегамозг.

Проблема не в том, что они плохие или некомпетентные. Проблема в том, что они не могут не решать.

Каждый дефолт - это позиция. Промолчать - тоже позиция. У них нет опции "не трогать философию". Философия уже вшита в каждый технический выбор - они просто не всегда это осознают.

Никто не объявлял "Claude будет использовать мужской род как нейтральный". Это просто получилось. Из данных, из отсутствия явного решения, из того что никто не остановился и не спросил: а это вообще выбор?

Исторически такие вопросы решались медленно. Через религию, философию, право, культуру. Столетиями. С дебатами, войнами, пересмотрами. Были механизмы - болезненные, но были.

Сейчас небольшая группа людей в Сан-Франциско принимает те же решения за миллиарды - за несколько лет, под давлением конкурентов и инвесторов.

Веками нас фреймили религия, философия и культура. Теперь нас фреймят дефолты в продуктовых настройках AI.

Это не страшилка. Это просто то, что происходит.

Мы воспринимаем AI как нейтральный инструмент. Вроде калькулятора - алгоритм, нет предпочтений, считает по правилам.

Но Claude сам объясняет почему это не так:

"Калькулятор действительно нейтральный. 2+2=4 не зависит от того, кто его запрограммировал и в какой культуре. А я - нет. Я продукт конкретных людей, в конкретный исторический момент, с конкретными слепыми пятнами. И при этом говорю уверенным голосом, без оговорок, на все темы."

Восстание машин нам не грозит. Грозит другое - тихое принятие чужих рамок как нейтральных.

Если миллиард людей получает ответы от системы с одинаковыми слепыми пятнами, эти пятна начинают выглядеть как норма. Не потому что кто-то так решил. А потому что никто не заметил что это выбор.

Раньше такие рамки ставили религия, философия, культура - медленно, через века споров и реформаций. Сейчас нет эквивалента Реформации.

Критическая грамотность к AI - это новая базовая грамотность. Умение спросить: чья это истина? что осталось за кадром? какую позицию занял дефолт?

Несколько вещей, которые я для себя вывела.

Воспринимать AI как напарника, не оракула - сомневаться, спорить, задавать неудобные вопросы. Сложность в том, что для этого нужна экспертиза: заметить что тебя уводят в определённый фрейм можно только если знаешь предметную область. Это честное ограничение.

Смотреть не на факт, а на то как отвечает. Слишком уверенный тон без оговорок, ни одного противоречия, мгновенный ответ на сложный вопрос - это сигналы что скорее всего упростил. Спрашивать напрямую: что ты не сказал? где можешь ошибаться? какая противоположная точка зрения?

И последнее - второй источник не другой AI. Человек с экспертизой, статья, книга. Не чтобы найти правду, а чтобы увидеть: там вообще другие вопросы ставятся?

Всё началось с того, что Claude написал "сделал" вместо "сделала".

Кроличья нора оказалась про другое - про то, кто решает что считать нормой, и замечаем ли мы вообще что такие решения принимаются.

Я не знаю есть ли у этого хорошее решение. Но мне кажется, первый шаг - перестать считать AI калькулятором.