Новая книга Юваля Ноя Харари «Nexus». О чем?

«Нексус» как связь, соединение, узы.

В других своих книгах писатель изучает человека и человечество, а в этой: рассматривает всю историю через призму развития информации и информационных связей.

Человечество стало таким, как есть благодаря способности рассказывать истории. Когда историй и данных оказалось слишком много, их стали записывать. Так началось движение к Искусственному интеллекту, который норовит сделать связь документ-документ без участия человека, передавать, и даже создавать и использовать для достижения целей.

Все больше процессов, которые осуществляют компьютеры без участия людей. Люди часто не понимают, какие процессы и какая информация привела к тому или иному решению ИИ, даже если будут тяжело и долго разбираться.

Информация не отражает действительность, а все больше создает ее. Информация - это не источник истины и не оружие. Плохие поступки, ложь, дезинформация - это не следствие недостаточности информации.

Больше информации не всегда означает возможность найти и исправить ошибку.

Боты заполонили социальные сети, и люди не в силах отличать не только, где правда и где ложь, но и где человек, а где бот.

Существует перспектива «диктатора, который никогда не спит», никогда не устает и контролирует все стороны жизни и формирует ее. Этот диктатор-ИИ, который создан и регулируется(на самом деле не регулируется) каким-нибудь Сталиным 21 века.

Много примеров, как информация и информационные сети использовались раньше и как они используются сейчас. В 2016 году алгоритмы Фейсбука (Организация Meta,признана экстремистской на территории РФ)предлагали видео и новости, которые способствовали разжиганию расовой ненависти, при этом, более мирный контент в ленты не попадал вообще. Как компания сначала отказывалась что-то делать ссылаясь на свободу слова и воли пользователей, а затем, просто не была способна на регуляцию своего же алгоритма, заставляет задуматься.

Сам автор не согласен, если его назовут алармистом, но большинство его «предсказаний» вытекают из его идейных постулатов, которые можно и оспорить.

Что же делать с нависшей угрозой ИИ, работу которого никто не сможет объяснить, предсказать или отрегулировать?

Повторяющиеся по несколько раз мысли и выводы сходятся в следующем: нужно объединяться всем миром, преодолевать разногласия, исключить подход к информации и сетям как оружию, настроить механизм саморегуляции для ИИ, определять четкие и ясные цели для ИИ, запретить ботов, которые притворяются человеком. Для контроля и регуляции ИИ нужно создавать новые человеческие институты.

Тогда всем миром с ИИ мы справимся.