Магия кода: кто на самом деле правит миром?

Печатный станок Гутенберга разрушил монополию католической церкви на знания, что в итоге спровоцировало Реформацию и переход в Новое время.

Переход к информационной эре сделал еще более весомый вклад в развитие цивилизации. Вопрос - как именно его следует оценивать?

Появление Facebook (и его последователей) привели к тому, что уже спустя декаду среднее время, проводимое пользователями в соцсетях, превысило 2,5 часа в день. Более 60% населения планеты постоянно подключены к сети. Кто, как и с какой целью управляет всеми этими процессами? Потому как принципиальность битвы за умы ни в малейшей мере не потеряла актуальности.

Речь не о лайках под фото с котятами. Социальные сети щедрыми штрихами определяют сегодня картину мира. Кто в 2010-х кооперировал Арабскую весну? Где куются победители любых выборов последних 15 лет? Даже нелепый танцевальный TikTok, может за 72 часа превратить протесты в Иране из мелкой стычки в национальное восстание.

Вопрос, что несет большую угрозу: цензура государств или манипуляции корпораций? Пока весы не в пользу правительств.

60% глобального digital-рынка контролируют пять компаний: Apple, Google, Meta, Amazon, Tencent. Их совокупный доход вносит их в условную десятку крупнейших экономик по ВВП. Все это создает очевидную зависимость от тех, кто владеет правами модератора.

Первый парадокс в относительности контроля. Механизмы цифровой эры, нацеленные на рациональный прогресс стали инструментами иррационального влияния.

Для наглядности: еще в 2016 году было доказано, что анализ 500 лайков под постами достаточен, чтобы понять личность человека гораздо глубже, чем его знают самые близкие люди.

Уязвимость системы в том, что технологии управления информацией все более сложны, а понимание их работы ограниченно. Отсюда второй парадокс: инициатива ушла от разумных манипуляторов к бездушным и номинально непредвзятым алгоритмам.

В прошлом году нейросети участвовали в генерации 70% трафика и они же задавали 99% контента, потребляемого пользователями. Все настройки "рекомендаций" - результат собирамой Big Data.

Здесь нет отдельных фильтров: даже самые богатые и влиятельные люди на планете не имеют отдельного интернета. Информацию поставляют советники, те тоже вертятся в одном с вами информационном поле.

Мы пришли в эпоху, когда правда стала лишь одной из интерпретаций реальности. В которой настройки софта начинают определять, что мы потребляем, а следовтельно, как воспринимаем этот мир.

Создано противоречие: чем больше информации доступно, тем сложнее отличить истину от манипуляции. Машинный код, фильтрующий и доставляющий данные, по сути стал формировать для человечества облако смыслов, задавая политику и определяя текущее (и будущее) движение цивилизации.

Автоматические фильтры создают информационные пузыри, из которых почти невозможно вырваться: потоком идет информация, специально подогнанная под ваши прошлые предпочтения. Это не мнение автора, а результат вполне академических исследований.

Если брать шире, остается ли у человека свобода воли в мире предсказательных моделей?

Следующий риск информационного перехода еще в полной мере не исполнен, но именно он является главным аттрактором. Делегирование алгоритмам всё большего числа задач ставит вопросы о допустимых границах его вмешательства.

Предсказанный Станиславом Лемом «Черный ящик» — это когда HR-программа отказывает в собеседовании девушкам в IT-вакансиях, потому что по статистике их мало, а значит, они бесперспективны.

Здесь детскую ошибку в логике можно отследить. А что делать с нейросетями, который обучали по триллиону параметров? Когда умные системы не имеют внешнего интерфейса, люди по умолчанию перестают понимать, на чём строятся выводы и прогнозы алгоритмов.

Это означает, что приходится слепо доверять выдаваемым ими результатам. При этом зная, что даже если кажется, что качество представляемых данных вполне годное, оно может быть основано на неверных предпосылках и искаженных под нужный результат фактов.

Насколько вообще приемлема эффективность в 97% для того же автопилота? Адекватный ответ: "Вы с ума сошли? Я туда не сяду". Тем временем даже лучшие ГИИ, они же умные чаты, до такого уровня не дотягиваются. Лучшие в классе, вроде ChatGPT и Qwen постоянно ошибаются. Необходимость перепроверять любую информацию от них знают все, кто использует их по работе.

Парадокс в том, что это не главный риск. Настоящий кошмар был порожден блестящей идеей подключить нейросети к созданию контента. Тем самым переведя такое явление, как фейк на много ступеней вверх.

А когда технологии привели цивилизацию к грани, за которой больше нельзя доверять тому, что видишь и слышишь, это выводит всех нас за порог неизведанного. Фальшивые политики, селебрити, порно — это еще ладно. Но когда подделывают деловые контакты, знакомых и идет альтернативная лента новостей? Дальше что?

Технике манипуляций на децентрализованном, но при этом тотальном уровне невозможно противостоять.

Люди ворвались в инфополе буквально за одно поколение. К лавине противоречивых данных у нас нет естественного иммунитета. Насколько вы уверены в вашем понимании окружающей реальности уже в конкретный момент? Не в плане оценки, а по сумме известных конкретно вам фактов?

Ведущие нейросети способны генеририровать объем всех Вики-статей примерно каждые 12 часов. И если будет поставлена задача переписать всю область знаний человечества, она будет выполнена за сутки. А пользователи даже не заметят, что мир изменился.

Эра самодеятельности алгоритмов добавляет в и без того сложную карту мира чистый, первобытный хаос.

Чтобы узнать больше - читайте книгу "Дисбаланс".

#нейросети #конспирология #fake #fakenews #соцсети #ии #алгоритмы #власть