«Не убийца, а всего лишь код, созданный и управляемый человеком»: сооснователь фонда Andreessen Horowitz о рисках ИИ

Страхи понятны с точки зрения эволюции, но чаще всего не обоснованы и лишь сеют панику, которая тормозит развитие сектора, говорит Марк Андриссен.

Конспект эссе Марка Андриссена.

Стоило наступить эре искусственного интеллекта, как человечество вдруг посходило с ума: решило, что ИИ уничтожит всё, создаваемое на протяжении тысячелетий. Вот только правда в том, что он, наоборот, может человечество спасти, считает инженер и сооснователь инвестиционного фонда Andreessen Horowitz (a16z) Марк Андриссен.

Люди с высоким уровнем интеллекта традиционно добиваются больших успехов практически во всех областях: они лучше учатся в школе и вузе, быстрее продвигаются по карьерной лестнице и приходят к нестандартным идеям, принимают более взвешенные решения и эффективнее справляются со сложными задачами и конфликтами, лучше воспитывают детей и следят за здоровьем.

Достижения именно человеческого интеллекта в областях науки, технологий, энергетики, строительства, транспорта, связи, искусства и этики помогли построить современный мир. И в нём не было бы и ИИ, если бы не человек. В конце концов это всего лишь компьютерная программа, которую последний сам создал, развивал и контролирует.

Теперь «умное» ПО может «усилить» возможности человеческого интеллекта и ускорить рост экономик всего мира — и этот процесс уже начался. Так что развитие ИИ — отнюдь не угроза, которой следует опасаться, а моральный долг: использовать это, чтобы улучшить жизнь для себя и своих потомков, считает автор.

Страх, безусловно, понятен: каждая новая технология вызывала у человечества панику и своей непривычностью угрожала выбить опору из-под ног. Но «понятен» не значит «обоснован» — и на данный момент страх раздут до уровня истерии, которая затрудняет работу в отрасли.

Участники реформаторских движений (развитие ИИ тоже можно считать таковым), как правило, делятся на две категории:

Пример тому — запрет на продажу алкоголя в США с 1920 по 1933 год. Первые считали алкоголь разрушительным для моральных устоев общества. Вторые сколотили на этом состояние, нелегально сбывая запрещённую продукцию тем, кто мог её себе позволить.

То же может ждать и рынок ИИ: часть прикрытых правительством компаний-бутлегеров будут продолжать зарабатывать и монополизировать рынок даже несмотря на ограничения. А баптистам останется лишь гадать, почему они «хотели как лучше, а получилось как всегда».

Страх, что созданная человеком технология «восстанет» и уничтожит его самого, вписана в культурный код. Разрушительную силу видели в огне, который Прометей передал людям, и в способности персонажа Мэри Шелли Виктора Франкенштейна оживлять безжизненные материи. Но, циклясь на потенциальных рисках, человек забывает о том, что имеет куда более важное значение, — о прикладной пользе самой технологии.

Считать, что ИИ может в прямом смысле кого-то убить — глубокое заблуждение. ИИ — не живое существо, которое миллиарды лет эволюционировало, приспосабливалось и училось сражаться, чтобы выживать. Это цифровые системы, которые построил, присвоил, развивал и контролировал сам человек. Полагать, что у него вдруг разовьётся собственный разум и появится мотив погубить человечество — всё равно что слепо верить в приметы. В таком случае ожить может и тостер, иронизирует Андриссен.

Баптистам этого не понять. Они при поддержке СМИ продвигают самые дикие ограничения — от запретов на разработку ИИ до авиаударов по центрам обработки данных. И восприимчивые люди в это верят. Однако их позиция антинаучна: у них нет проработанной гипотезы, доказательств, шагов для её проверки. «А кто докажет, что наши страхи не оправданы?» — их единственное оправдание.

«Риски развития ИИ» — это новый культ, но он такой не первый. Это проявление милленаризма, который нередко продвигает идею об апокалипсисе. Его сторонникам свойственно полагать, что предотвратить изменения способны только радикальные меры — вроде авиаударов.

Наблюдать за культами со стороны интересно, но такие убеждения вряд ли должны формировать будущие законы целого рынка, замечает автор.

Если человечество не убьют роботы, то его погубят дезинформация и алгоритмическая предвзятость (или же риторика ненависти), считают баптисты. У них даже есть связанный с этим термин — AI Alignment, или «ИИ-согласованность». Возникает вопрос: с чем нужно согласовывать рассуждения ИИ. И на него даже есть ответ: с общечеловеческими ценностями. Проблема, впрочем, кроется в том, кто именно будет определять эти самые ценности.

Гадать не нужно: достаточно посмотреть на то, как развивается цензура в соцсетях под давлением правительств и активистов. С одной стороны, свобода слова вряд ли может быть абсолютной. Есть контент, который наверняка будет запрещён везде и всегда, — например, детская порнография или призывы к насилию. К тому же у каждой страны свои взгляды на нормы дозволенного. С другой, цензурирование — скользкая дорожка: самые разные группы по интересам будут призывать к ограничениям неугодной для них риторики, ссылаясь на уже существующие запреты.

Так общество рискует породить целую полицию мыслей и превратить мир в то, о чём писал Джордж Оруэлл в романе «1984». И в случае с ИИ такие подвижки угрожают обществу гораздо больше, чем борьба за цензуру в соцсетях, потому что ИИ будет формировать дальнейшее технологическое развитие всей планеты.

Несмотря на то что каждая новая масштабная технология приводила к увеличению рабочих мест, человечество всё равно продолжает бояться обратного — говорит, что «на этот раз всё будет по-другому». Андриссен считает, что люди вновь заблуждаются: ИИ не просто ускорит экономический рост, а приведёт к ранее невиданному буму.

В экономической теории есть концепция — заблуждение о неизменном объёме работ. Именно она обычно приводит к панике, подобной этой. Человеку кажется, что объём задач всегда ограничен — и если их выполняют машины, людям будет нечем заняться. В реальности всё работает не так, пишет автор:

Если не ограничивать рыночную экономику и внедрение технологий, этот цикл никогда не закончится, полагает Андриссен, так как человеку всегда хочется большего.

Тем, кому тяжело в это поверить, автор рекомендует прочитать главу «Проклятие машин» в книге Генри Хазлитта «Экономика за один урок» и сатирическую петицию производителей свечей Фредерика Бастиа — они в шутку требовали перекрыть солнечный свет, так как солнце «демпинговало» на рынке освещения и монополизировало его.

Идея о том, что богатые получат доступ к технологиям и оставят «пролетариат» без общественных благ, — ещё одно заблуждение. «Владельцам» этих технологий, наоборот, выгодно продать их как можно большему числу клиентов, даже если сперва их распространяют среди состоятельной прослойки.

Пример тому — стратегия развития Tesla Илона Маска, представленная в 2006 году: построить дорогой автомобиль, на вырученные деньги выпустить доступную машину, потом — ещё более дешёвую. Маск не стал бы богаче, продавай он автомобили только обеспеченным водителям. Он максимизирует прибыль, потому что выходит на самый крупный рынок — в 8 млрд человек.

То же происходит в ИИ — иначе бы рядовые пользователи не получили бы бесплатного доступа к генеративным соцсетям, в том числе от гигантов техрынка вроде Microsoft и Google. Это не глупость или щедрость компаний, а, наоборот, жадность, при которой весомую часть создаваемой ими ценности получает конечный потребитель.

Это не значит, что неравенства не существует и с ним не нужно бороться. Просто его порождают не технологии, а отказ от них — именно по этой причине неравенство особенно заметно в образовании, здравоохранении и строительстве, подмечает Андриссен.

Технология — это инструмент, который можно использовать как для добрых дел, так и для плохих. С помощью огня и камней можно приготовить пищу и построить дом — или же поджечь поселение и поранить людей. ИИ в этом смысле не исключение, говорит Андриссен.

Именно поэтому некоторые предлагают не рисковать и запретить ИИ сразу, пока до этого не дошло. Но ИИ — не плутоний, который трудно достать. Это всего лишь код, написанию которого учат на курсах, в видео и книгах и который нередко выкладывают в открытый доступ. Чтобы обуздать ИИ, который будет везде как воздух, придётся пойти на радикальные меры, полагает автор: следить за всеми компьютерами, изымать процессоры в рамках спецопераций.

Поддавшиеся панике баптисты забывают о важном. В мире работают законы, которые и так криминализируют большую часть «плохих поступков». Да, с помощью ИИ, наверное, можно взломать Пентагон, украсть деньги, создать оружие или спланировать нападение, но всё это и так давно считается преступлением, за которыми уже должны следить ответственные службы.

Задача должна заключаться в том, как облегчить им эту работу. А сделать это можно с помощью того же самого ИИ, которого баптисты боятся. Скажем, не блокировать сервисы для дипфейков, а создать механизмы, которые помогут отличить их от настоящих роликов. Так мир станет ещё безопаснее, чем сейчас, а не наоборот, полагает автор.

Риск, который баптисты порождают своей истерией, — это затормозить развитие отрасли или позволить монополизировать её, подчёркивает Андриссен.

По его словам, вместо этого следует разрешить крупным компаниям свободно работать над технологиями, но не отдавать им регуляторных преференций и не изолировать их от конкурентов. Равное право соперничать с ними должно быть и у стартапов, а распространять ИИ с открытым исходным кодом нужно без ограничений — чтобы студенты и начинающие разработчики могли быстрее интегрироваться в работу, а общественность бы получила доступ к новым благам независимо от социальных условий.

Только так ИИ не уничтожит, а наоборот спасёт мир.

#искусственныйинтеллект