Миллиардер хочет использовать ИИ, чтобы воплотить в реальность роман Оруэлла «1984»

Вы когда-нибудь читали блестящий шедевр Джорджа Оруэлла «1984» и думали: «Это звучит как отличная идея!»? Если у вас больше двух работающих мозговых клеток, то, вероятно, нет. Печально известная книга описывала ужасы полицейского государства слежения, основанного на технологиях. Гражданские лица находятся под круглосуточным наблюдением и арестовываются, если обнаруживается, что они нарушают закон. С таким огромным превышением полномочий правительство стало деспотичным до энной степени и готово «испарять» людей даже за самую мягкую критику. Что ж, похоже, Ларри Эллисон, миллиардер и основатель ИТ-гиганта Oracle, считает, что это звучит как отличная идея. На самом деле он хочет использовать ИИ, чтобы сделать «1984» реальностью и превратить США в государство слежения, при этом он, что неудивительно, пожинает прибыль.

Эллисон впервые заявил об этой антиутопической амбиции во время публично транслируемой встречи Oracle. Он заявил, что ИИ находится на грани открытия новой эры массового наблюдения и что Oracle готова стать технологической основой для такого приложения. Эллисон с волнением представлял себе мир постоянного мониторинга ИИ в реальном времени для всех. Идея заключается в том, что ИИ будет отслеживать каждое наше действие, чтобы выявлять и сообщать о преступлениях, гарантируя, что каждый будет подлежать обязательной ответственности, и, по словам Эллисона, будет поддерживать каждого «наиболее приличным поведением».

Эллисон описал сценарий, в котором полиция оснащена нательными камерами, которые нельзя отключить, что позволяет системе искусственного интеллекта Oracle круглосуточно следить за ними. Таким образом, Эллисон заявил, что это будет означать, что «полиция будет вести себя наилучшим образом, потому что мы постоянно наблюдаем и записываем все, что происходит», и заявил, что «если возникнет проблема, искусственный интеллект сообщит о ней соответствующему лицу».

Но Эллисон также заявил, что «граждане будут вести себя наилучшим образом, потому что мы постоянно записываем и отчитываемся». Он не стал подробно рассказывать, как этот вездесущий ИИ будет постоянно следить за своими гражданами, но поскольку Oracle начинался как проект ЦРУ и имеет связи с АНБ, а мы все ходим с подключенной к Интернету высококачественной камерой и микрофоном 24/7, я уверен, что это не будет проблемой.

Излишне говорить, что эта идея — полная чушь.

Во-первых, постоянный мониторинг и отчетность о поведении полиции не изменят ее поведение. В конце концов, кому этот ИИ будет сообщать о преступлениях полиции? Полиция... Вот почему одна из самых существенных проблем с полицейскими силами во всем мире заключается в том, что они склонны к институциональной коррупции и защите своих собственных, позволяя тем, кто находится на более высоких должностях, избегать наказания за отвратительные преступления, даже если о них сообщают. Например, текущие правительственные данные показывают, что половина убийств, совершенных полицией в США, не расследуются! Таким образом, этот инструмент ИИ вряд ли сильно изменит поведение полиции.

Более того, полиция США не славится высокой подготовкой, применением соответствующей силы или непогрешимым профессионализмом. В результате можно с уверенностью сказать, что заваливание их бесчисленными отчетами о преступлениях от этого вездесущего ИИ может привести к некоторым действительно опасным ситуациям.

Эта проблема усугубляется тем фактом, что ИИ не на 100% точен. Он галлюцинирует ложь, и даже лучшие ИИ не распознают основные закономерности с пугающей скоростью. Следовательно, этот ИИ может «прихлопнуть» людей довольно регулярно, утверждая, что человек совершил вопиющее преступление, которого он просто не совершал. Просто напоминаем, что с 2015 года отряды полицейского спецназа убили более 22 человек!

Излишне говорить, что это, в сочетании с тем, насколько неточным может быть ИИ в прогнозировании и интерпретации человеческого поведения, вызовет огромный стресс у населения в целом, даже если это законопослушные граждане.

И есть один последний ужасный недостаток этого плана. Демократия США далека от безопасности. Лоббисты вводили ее в заблуждение и манипулировали ею на протяжении более века, а авторитарные и антидемократические деятели смогли получить глубокое влияние на правительство почти с момента его основания. У него также есть история нарушения частной жизни и прав своих граждан ради безопасности государства, как видно из Патриотического акта. Эти факторы в сочетании с волной современных крайне правых политических движений, которым удалось сохранить прочные позиции в политике США, делают предоставление правительству США такого тиранического объема власти против граждан США скользким путем к предсказанному Оруэллом кошмару, где даже «мыслепреступления» могут повлечь за собой самые суровые наказания.

Давайте также не будем забывать, что даже если действие незаконно, это не означает, что оно аморально.Западные правительства имеют опыт криминализации движений, которые призывают их к ответственности.Таким образом, протесты против несправедливых или незаконных войн или протестующие против изменения климата, пытающиеся бороться за лучшее будущее, часто жестко и несправедливо криминализируются государством. И это несмотря на то, что такие движения, как их, являются главной движущей силой нашей культурной эволюции и причиной того, что у нас есть свобода, о которой наши предки могли только мечтать. Деспотичный ИИ Эллисона может задушить эту критическую культурную эволюцию.

Но даже если Эллисон каким-то образом нашел способ смягчить все эти недостатки, это все равно не решает проблему преступности в США. Многие исследования показали, что большинство преступлений проистекает из неблагоприятных социальных, экономических, культурных и семейных условий. Другими словами, большая часть преступлений в США создается институциональным расизмом, классизмом, практически несуществующим государством всеобщего благосостояния и нашей посткапиталистической экономикой. Если разбить это еще дальше, большинство людей совершают преступления в США, потому что они должны, а не потому, что они хотят. Неважно, как сильно вы наказываете этих людей за их преступления, у них функционально нет альтернативы, и поэтому они будут продолжать. Так что, если вы хотите, чтобы преступность снизилась, сделайте жизнь этих людей лучше и предоставьте им другие возможности за счет улучшения благосостояния, инициатив по трудоустройству, доступного жилья, социальных программ для всех возрастов и здравоохранения. Это на самом деле не так уж и сложно.

К сожалению, многие миллиардеры и крайне правые не могут с этим смириться, поскольку это противоречит их представлению о нас против них, о том, что они являются частью группы, которая по своей сути и бесспорно «лучше». Это также противоречит их ценностям ультраиндивидуализма и заставляет их принимать участие в заботе об обществе.

Но я не думаю, что Эллисон предлагает это ужасное будущее по политическим причинам. Нет, я думаю, что это просто ради холодных, наличных денег. Видите ли, так же, как единственным способом заработать деньги на золотой лихорадке была продажа лопат, Oracle является одной из немногих компаний, которые действительно получают прибыль от бума ИИ. Почти каждая крупная компания ИИ использует центры обработки данных Oracle. Но даже самые крупные ИИ, которые у нас есть сегодня, не потребуют столько инфраструктуры, сколько предложенный Эллисоном ИИ «Большой брат». Таким образом, это государство полицейского надзора, управляемое ИИ, основанное на его инфраструктуре, может стать самой прибыльной сделкой, которую Эллисон и Oracle когда-либо смогут заключить. Кажется, Эллисон хочет заключить эту сделку, какой бы неприятной она ни была для таких, как вы и я.