ИИ формирует наш словарь и мышление

Последние месяцы я постоянно сталкиваюсь в экспертных текстах со словом "эхо-камера".

Управление командой — эхо-камера. Маркетинг — эхо-камера. Социальные сети, психология, стратегия, ИИ — везде вдруг обнаружились эхо-камеры.

В какой-то момент мне стало интересно: откуда у нас вообще взялось столько эхо-камер?

Первая гипотеза была довольно очевидной. Возможно, термин массово приехал в русский язык вместе с ChatGPT. Фраза echo chamber типична для англоязычной публицистики, языковые модели его подхватили, а вслед за ними начали использовать и авторы.

Я полез проверять.

По крайней мере, с происхождением слова.

Echo chamber существовало задолго до генеративного ИИ. В контексте интернета понятие активно использовал Касс Санстейн ещё в начале 2000-х. В русском интернете "эхо-камера" встречается как минимум с середины 2010-х, а к концу десятилетия появляются и академические публикации.

Более того, техническое слово "эхо-камера" существовало в русском языке ещё в советской литературе по акустике.Так что простой версии "всё это принёс ChatGPT" пришлось отказаться.

Но обнаружилось кое-что интереснее.

Сегодня "эхо-камерой" разные эксперты регулярно называют почти любую ситуацию, где человек сталкивается преимущественно с похожими мнениями или повторениями.

Алгоритм показывает однотипные ролики? Эхо-камера.

Вы подписаны на людей со схожими взглядами? Эхо-камера.

Команда соглашается с руководителем? Тоже, видимо, эхо-камера.

Хотя за этими явлениями могут стоять абсолютно разные механизмы.

Например, философ К. Тхи Нгуен предлагает различать информационный пузырь и собственно эхо-камеру. В первом случае часть источников просто не попадает в поле зрения. Во втором внутренним источникам систематически доверяют, а внешние заранее дискредитируются.

Отдельно существуют алгоритмическая персонализация, склонность искать подтверждение собственным взглядам, групповая поляризация.

И теперь одно очень удачное и умно звучащее слово используется для всего. Проблема здесь не в терминологии как таковой. Слово начинает подменять различия между явлениями.

Представьте управленческую ситуацию. Люди в команде перестали спорить с руководителем.

Можно разбираться: они действительно согласны? Боятся возражать? Получают одинаковую информацию? Не доверяют альтернативным источникам? Просто устали спорить?

А можно сказать: "У нас образовалась эхо-камера". И все вроде бы поняли, что происходит. Хотя мы пока вообще ничего не объяснили. Просто прилепили бирку.

Самое интересное, что исследователи давно спорят с чрезмерным использованием этих понятий.

Аксель Брунс писал о том, насколько расплывчатыми стали метафоры эхо-камер и пузырей фильтров. Эмпирические исследования показывают, что сильная версия идеи об информационной изоляции работает далеко не всегда.

А в 2024 году вышла академическая статья с почти издевательским названием: Stop Talking about Echo Chambers and Filter Bubbles.

Само название прекрасно показывает проблему. Хороший ярлык распространяется гораздо быстрее, чем аккуратное описание механизма.

И вот здесь я снова возвращаюсь к ИИ.

Доказать, что именно ChatGPT сделал "эхо-камеру" модным словом в русском языке, я не могу. Но для меня гораздо интереснее другой механизм.

Большие языковые модели постоянно предлагают нам готовый понятийный аппарат. Мы спрашиваем, почему люди не воспринимают чужую позицию и смотрят на мир однобоко, и получаем echo chamber, confirmation bias, filter bubble, polarization.

Спрашиваем про организацию, стратегию или лидерство и получаем другой, но тоже довольно устойчивый набор понятий.

Мы читаем эти формулировки, редактируем (ну это уже успех, конечно), охотно начинаем повторять в своей речи отдельные слова. Потом используем их ещё раз. Со временем они становятся привычными и совсем своими. А потом мы уже не помним, откуда они вообще появились в нашей речи (и что они значат).

Я совершенно не против англицизмов. Наоборот: если новое слово позволяет точнее увидеть и описать явление, язык от этого становится богаче.

Меня беспокоит другое.

Вместе с готовым словом мы незаметно получаем готовое мировоззрение, подкрепленное определенными ярлыками. Язык, а точнее словоупотребление, задаёт различия, которые мы замечаем, и фокусируют наши мысли. Один человек видит конфликт интересов. Другой — борьбу за власть. Третий — проблему стимулов. Четвёртый — когнитивное искажение. Разные понятийные рамки позволяют увидеть разные стороны одной ситуации.

А теперь представим миллионы людей, которые регулярно обращаются к нескольким большим языковым моделям и получают от них похожие наборы концептов для объяснения происходящего.

Мне кажется, здесь и возникает настоящая проблема.

ИИ может унифицировать человеческое мышление вовсе не потому, что заставит всех думать одинаково.

Механизм гораздо мягче. Он просто снова и снова предлагает наиболее удобные, распространённые, доступные и убедительные категории. А мы постепенно привыкаем раскладывать реальность именно по ним.

В результате начинаем похожим образом описывать происходящее, замечать одни и те же особенности и задавать одинаковые вопросы. И чем удобнее готовое понятие (ярлык), тем меньше причин разбираться, что именно происходит.

Мы много говорим о том, насколько хорошо ИИ научился имитировать человека. Гораздо меньше внимания уделяем обратному процессу: как человек постепенно усваивает язык машины и начинает считать его своим.

Для меня это уже вопрос автономии мышления.

Борьба за неё сегодня разворачивается в довольно неожиданном месте. Иногда достаточно посмотреть на слова, которыми вы начали пользоваться совсем недавно, и спросить себя: откуда они вообще взялись в моей голове?