Почему самый опасный вирус будущего — это текст

«Мертвый интернет» существует. Все больше контента генерируют алгоритмы, а некоторые умельцы продают курсы о том, как делать это правильно. Переносчиком «заразы» был и остается текст — идеальный информационный вирус. С искусственным интеллектом, бесконечно создающим зараженный контент, мы наблюдаем начало эпидемии.

Вирус — паразит, который живет за счет клетки-хозяина. Он внедряет свой генетический материал внутрь клетки, «захватывает» ее ресурсы, заставляя синтезировать новые вирусные компоненты. Затем из этого конструктора собираются зрелые вирусные частицы, которые заражают соседние клетки, запуская лавинообразный процесс.

В этом процессе есть много схожего с тем, как работает распространение сообщений в обществе. Но самое главное — именно так работает текст, рождаясь в голове одного и становясь статьей, книгой, постом или сообщением, которые идут дальше и набирают тысячи просмотров, поселяясь в алгоритмах и головах беззащитных читателей. А главное, текст становится необходимым фундаментом для обучения нейросетей.

По А.А. Леонтьеву, советскому и российскому лингвисту и психологу, понимание текста — это «процесс перевода смысла этого текста в любую другую форму». То есть для текста главное, чтобы мы уловили его суть вне зависимости будет это пересказано как «В газете говорят» или как «Мне тут птичка напела…».

Но готовый словесный кирпич — это еще не все. Как автор, так и читатель передают и понимают сообщение не только буквально, но и с точки зрения текущего контекста времени, пространства, медиа-ресурса, на котором выложен текст, внутреннего мира автора/читателя и прочего. Мало того, на процесс понимания так же влияет стратегия чтения: ведь мы по-разному относимся к научным работам, высказываниям блогеров и SEO-статьям в блоге стоматологической клиники.

Г.И. Богин, советский и российский филолог и лингвист, выделил целую иерархию понимания читателем текста. Сначала идет распознавание символов и слов, потом содержания, а на самой высшей точке находится «распредмечивание» и понимание заложенных в работу идей.

Так получается, что каждый текст — уникален. И каждое прочтение текста уникально само по себе.

Мы не можем заглянуть за кулисы разработки LLM, но можем смело предположить, что никакой ИИ не хватит способностей понять наши сочинения в полноте (они остаются в пределах первой, частично второй ступени по Г.И. Богину). Однако же мы пользуемся ими для генерации новых работ.

Поверхностное понимание алгоритмами человеческой природы и иллюзия жизни в выдаче: к какому будущему мы идем?

Мертвый интернет — это теория о том, что значительная часть информации в сети генерируется не людьми, а ботами с ИИ. Интернет симулирует активность, где алгоритмы разговаривают с алгоритмами, а реальный пользователь теряется в искусственном шуме.

Перенасыщение Интернета нейросетевым контентом приводит к отсутствию у людей доверия ко всему, что тут пишут. Новые модели ИИ уже обучаются на сгенерированных текстах и медленно (а может и стремительно) идут к «вырождению», как когда-то Габсбурги. Скоро здесь не будет ничего, кроме стерильной информации без реального человеческого опыта.

Но главный страх заключается в том, что мы перестанем воспринимать глубинные смыслы, идеи и темы, принимая любой текст за поверхностную выдачу ИИ и ее галлюцинации. Так мы потеряем себя.

Вирус нейрослопа уже подкашивает наш коллективный Интернет-разум.

В XXI веке оказывается, что самую большую опасность для человечества, как вида, имеет наше главное на данный момент технологическое достижение. Многие обязательно научатся работать с нейросетями, но останутся и те, кто по разным причинам будут засорять эфир терабайтами галлюцинаций, которые станут основой для образования будущих поколений интернет-людей.

Вакцины пока что нет.