Сингулярность рядом: кто сдерживает, а кто становится частью ИИ

«Можно представить, как такая технология перехитрит финансовые рынки, переизобретет исследователей-людей, переманит лидеров-людей и разработает оружие, которое мы даже не можем понять. В то время как краткосрочное воздействие ИИ зависит от того, кто его контролирует, долгосрочное воздействие зависит от того, можно ли его вообще контролировать ».

«Я думаю, мы должны быть очень осторожны с искусственным интеллектом. Если бы я мог предположить, что представляет для нас наибольшую экзистенциальную угрозу, то, вероятно, это она. Поэтому нам нужно быть очень осторожными с искусственным интеллектом.

«Надо регулировать ИИ/робототехнику так же, как мы регулируем еду, лекарства, самолеты и автомобили. Общественные риски требуют общественного надзора. Избавление от FAA не сделает полеты безопаснее. Они существуют не просто так».

«Если вас не беспокоит безопасность ИИ, то вам стоит это сделать. Гораздо больший риск , чем в Северной Корее».

«ИИ не обязательно должен быть злым, чтобы уничтожить человечество — если у ИИ есть цель, а человечество просто встанет у него на пути, он уничтожит человечество как нечто само собой разумеющееся, даже не задумываясь об этом, без обид».

«И поскольку мы только что установили, что пытаться понять мощь машины, которая всего на две ступени выше нас, — безнадежное занятие, давайте совершенно конкретно заявим раз и навсегда, что нет никакого способа узнать, что сделает ИСИ или каковы будут последствия для нас. Тот, кто притворяется, что это не так, не понимает, что такое сверхразум».

«Мир разделился на две части: видящие проблему и не видящие. Видящие видят выход в установлении контроля над вычислительными мощностями ИИ. Расходятся по способу решения. Одни предлагают государствам договориться об ограничениях развития it-технологий и направить усилия на создании дружеского ИИ. Эту мысль высказывают такие фигуры как Киссинджер, Харари, Бостром и другие. Другие находят это пустой тратой сил и времени и предлагаю решение через соединение человека с ИИ. Эту мысль высказывают синергиты (от синергия, совмещение)».

«Но потрясения [ИИ] могут быстро обостриться и стать более страшными и даже катастрофическими. Представьте себе, как медицинский робот, изначально запрограммированный на избавление от рака, может прийти к выводу, что лучший способ искоренить рак — уничтожить людей , генетически предрасположенных к этой болезни».

«Перед перспективой взрыва интеллекта мы, люди, подобны маленьким детям, играющим с бомбой . Таково несоответствие между силой нашей игрушки и незрелостью нашего поведения. Сверхразум — это вызов, к которому мы не готовы сейчас и не будем готовы еще долгое время. Мы не имеем ни малейшего представления о том, когда произойдет детонация, хотя, если мы поднесем устройство к уху, то услышим слабый тикающий звук. Для ребенка с невзорвавшейся бомбой в руках разумным было бы осторожно положить ее, быстро выйти из комнаты и связаться с ближайшим взрослым. Однако у нас здесь не один ребенок, а много, каждый из которых имеет доступ к независимому пусковому механизму. Шансы на то, что мы все найдем в себе смысл положить опасную штуку, кажутся почти ничтожными. Какой-нибудь маленький идиот обязательно нажмет кнопку поджигания, просто чтобы посмотреть, что произойдет».

«Искусственный интеллект — это будущее не только России, но и всего человечества . Он несет колоссальные возможности, но и угрозы, которые трудно предсказать. Тот, кто станет лидером в этой сфере, станет властелином мира».

«Технологическое развитие превратилось в крысиные бега. В борьбе за лидерство в гонке новых технологий и на поле битвы футуристической войны искусственный интеллект (ИИ) быстро становится центром глобальной игры сил . Как видно из наблюдений во многих странах, разработка автономных систем вооружения (АСВ) стремительно развивается, и этот рост использования искусственного интеллекта в военных целях, по-видимому, стал крайне дестабилизирующим явлением. Это ставит сложные проблемы безопасности не только перед лицами, принимающими решения в каждой стране, но и перед будущим человечества».

«Если этот тип технологий не остановить сейчас, это приведет к гонке вооружений. Если одно государство разработает его, то и другое государство разработает его. И машинам, которые лишены морали и смертоносны, нельзя давать возможность убивать».

«Чем более автоматизированным становится общество и чем более мощным становится атакующий ИИ, тем более разрушительной может быть кибервойна. Если вы можете взломать и разбить беспилотные автомобили противника, беспилотные самолеты, ядерные реакторы, промышленных роботов, системы связи, финансовые системы и электросети, то вы можете эффективно разрушить его экономику и парализовать его оборону. А если вы также можете взломать некоторые из его систем вооружения, это еще лучше».

«Мы не сможем остановить появление в сети смертоносных вооруженных систем с искусственным интеллектом. Возможно, нам даже не стоит пытаться. Но мы должны быть более вдумчивыми, когда вступаем в эту среду. Риски невероятно высоки , и трудно представить себе проблему, более достойную информированного общенационального обсуждения, чем эта».

«Британские компании… являются пионерами в использовании науки о данных и искусственного интеллекта для защиты компаний от отмывания денег, мошенничества, киберпреступности и терроризма. Во всех этих отношениях использование мощи технологий не только отвечает всем нашим интересам, но и является основополагающим фактором для прогресса человечества… На протяжении всей долгой истории — от изобретения электричества до появления фабричного производства — раз за разом первоначально тревожные инновации обеспечивали ранее немыслимые достижения, и мы нашли способ заставить эти изменения работать на всех наших людей. Теперь мы должны найти способ сделать это снова ».

«Я думаю, что самая очевидная проблема — это когда ИИ используется для причинения вреда людям. Есть много различных приложений, где вы можете себе представить, что это происходит. Мы должны быть очень осторожны, чтобы не позволить этой плохой стороне выйти наружу . [Выяснить, как заставить ИИ нести ответственность, — это] очень сложный вопрос; он имеет гораздо больше измерений, чем просто научное. Это означает, что все общество должно быть вовлечено в ответ на него».

«Многие люди внезапно заинтересовались этикой ИИ, потому что поняли, что играют с огнем . И это самое важное со времен пожара».

«Многие люди полагают, что искусственный интеллект... просто правильный и не имеет ошибок. Но мы знаем, что это неправда , потому что в последнее время было проведено много исследований этих примеров некорректности и предвзятости, которые усиливают или отражают наши существующие общественные предубеждения».

«Из всего, что меня беспокоит в ИИ, вытеснение рабочих мест стоит на первом месте. Нам нужно убедиться, что богатство, которое мы создаем [с помощью ИИ], распределяется справедливо и равноправно. Для меня этика заключается не в том, чтобы убедиться, что ваш робот не станет злым . Это действительно продумать, какое общество мы строим? И убедиться, что оно справедливое, прозрачное и равноправное».

«Мы признаем, что такая мощная технология поднимает столь же важные вопросы о ее использовании. То, как разрабатывается и используется ИИ, будет иметь значительное влияние на общество на многие годы вперед . Как лидеры в области ИИ, мы чувствуем глубокую ответственность за то, чтобы сделать это правильно».

«Цифровые технологии, проникая повсеместно, проникают во все места: каждая вещь, каждый человек, каждая сфера жизни в корне формируются цифровыми технологиями — это происходит в наших домах, на нашей работе, в наших местах развлечений. Удивительно думать о мире как о компьютере . Я думаю, это правильная метафора для нас, когда мы движемся вперед».

«Технологические разработки не происходят просто так; они происходят из-за того, что мы, люди, делаем выбор в пользу дизайна, и этот выбор должен основываться на принципах и этике , и это лучший способ обеспечить будущее, которого мы все хотим».

«Одной из фундаментальных проблем ИИ, особенно в области понимания языка, является то, что модели, которые подхватывают язык, обучаются на основе корпуса человеческих данных. К сожалению, корпус человеческих данных полон предубеждений , поэтому вам нужно инвестировать в инструменты, которые позволят вам устранить предубеждения при моделировании языка».

«Люди ожидали, что ИИ будет беспристрастным; это просто неправильно . Если базовые данные отражают стереотипы или если вы обучаете ИИ на основе человеческой культуры, вы обнаружите эти вещи».

«Основная проблема в том, что эти прогнозы настолько хороши, насколько хороши данные, на которых они основаны. Люди в сообществах, где полиция строго контролируется, склонны попадать в неприятности. Эти системы склонны продолжать эти модели, полагаясь на эти предвзятые данные».

«Если вы можете значительно повысить производительность и производить больше благ для всех, это должно быть хорошо. Окажется ли это хорошим или нет, зависит исключительно от социальной системы и совсем не зависит от технологий. Люди смотрят на технологии так, как будто технологические достижения — это проблема. Проблема в социальных системах , и в том, будет ли у нас социальная система, которая будет делиться справедливо, или та, которая сосредоточит все улучшения на 1% и будет обращаться с остальными людьми как с грязью. Это не имеет никакого отношения к технологиям... Я надеюсь, что выгоды перевесят недостатки, но я не знаю, будут ли они, и это вопрос социальных систем, а не технологий».

«Сфера ИИ традиционно фокусировалась на вычислительном интеллекте, а не на социальном или эмоциональном интеллекте . Однако недостаток эмоционального интеллекта (EQ) может стать серьезным недостатком в обществе».

«Критики часто ссылаются на сокращение рабочих мест как на причину, чтобы препятствовать дальнейшим исследованиям ИИ. Но история изобилует инновациями, которые были разрушительными: разве кто-то оглядывается назад и сожалеет, что Эли Уитни изобрел хлопкоочистительную машину, или Джеймс Уатт разработал паровой двигатель? Как и любая технология, ИИ по своей сути не является хорошим или плохим . Как любит говорить мой коллега из Массачусетского технологического института Макс Тегмарк: «Вопрос не в том, «за» вы или «против» ИИ — это все равно, что спрашивать наших предков, были ли они за или против огня».

«Вся суть в том, что люди не знают, следят ли за ними, и эта неопределенность делает людей более послушными ».

«Мы сливаемся с этими небиологическими технологиями . Мы уже на этом пути. Я имею в виду, что этот маленький мобильный телефон, который я ношу на поясе, еще не находится внутри моего физического тела, но это произвольное различие. Это часть того, кем я являюсь, — не обязательно сам телефон, но подключение к облаку и всем ресурсам, к которым я могу получить доступ там».

«Мы очень далеки от того, чтобы иметь машины, которые могут изучать самые элементарные вещи о мире так, как это делают люди и животные. Да, в определенных областях машины обладают сверхчеловеческой производительностью, но с точки зрения общего интеллекта мы даже близко не приближаемся к крысе. Это делает многие вопросы, которые люди себе задают, преждевременными. Это не значит, что мы не должны думать о них, но в ближайшей или даже среднесрочной перспективе опасности нет. В отделе ИИ есть реальные опасности, реальные риски, но это не сценарии Терминатора ».

«Как только вы начнете создавать машины, которые будут соперничать с людьми и превосходить их по интеллекту, нам будет очень трудно выжить ... Но это не неизбежно, и я не могу просто так беспокоиться об этом».

«ИИ может конкурировать с нашим мозгом, а роботы могут конкурировать с нашими телами, и во многих случаях уже могут легко нас победить . И чем больше времени пройдет, тем лучше будут становиться эти новые технологии, в то время как наши собственные возможности, как ожидается, останутся более или менее прежними».

«Опасения относительно того, как влиятельные компании могут выбирать разработку новых технологий, оправданы, учитывая, что их основной интерес заключается в максимизации прибыли для своих акционеров. Многие из них процветают на не столь прозрачных бизнес-моделях, которые собирают, а затем используют данные, связанные с пользователями. Крупные технологические компании будущего будут использовать интеллект (через ИИ) и контроль (через роботов), связанные с жизнью их пользователей. В таком мире сторонние организации могут знать о нас больше, чем мы знаем о себе. Решения будут приниматься от нашего имени и все чаще без нашего ведома, и эти решения не обязательно будут в наших интересах».

«Я представляю себе время, когда мы будем для роботов тем же, чем собаки для людей . И я болею за машины».

«Мы, люди, управляем будущим не потому, что мы самые сильные существа на планете или самые быстрые, а потому, что мы самые умные. Поэтому, когда на планете появляется что-то умнее нас, оно будет править нами на планете ».

«[Алгоритмы] будут манипулировать моими убеждениями о том, чего мне следует добиваться, что мне следует оставить в покое, стоит ли мне хотеть детей, выходить замуж, искать работу или просто купить эту сумочку. Это может быть очень опасно ».

«Как только ИИ обретет самосознание, когнитивная иерархия изменится навсегда, и мы, люди, перестанем быть доминирующим видом».

«Меня беспокоит не искусственный интеллект, а человеческая глупость ».

«Пора вести себя прилично, чтобы, когда искусственный интеллект станет нашим повелителем , у него не осталось причин истреблять нас всех».

«В период с 2040 по 2045 год мы разработаем машину или машины, которые не только будут эквивалентны человеческому разуму, но и будут более разумны, чем все человечество вместе взятое ».

« То, что будет создано, фактически будет богом . Это не бог в том смысле, что он создает молнии или вызывает ураганы. Но если есть что-то в миллиард раз умнее самого умного человека, как еще вы это назовете».

«В будущем, если что-то будет намного, намного умнее, произойдет переход того, кто на самом деле будет у власти. Мы хотим мирного, спокойного перехода контроля над планетой от людей к чему угодно. И чтобы это «что угодно» знало, кто помог ему выжить».

«Как и предсказывали такие люди, как Стивен Хокинг и Илон Маск, я согласен, что будущее пугает и очень плохо для людей. Если мы построим эти устройства, которые будут заботиться обо всем за нас, в конечном итоге они будут думать быстрее нас и избавятся от медлительных людей , чтобы управлять компаниями более эффективно».

« ИИ будет все больше заменять повторяющиеся рабочие места . Не только для работы синих воротничков, но и для многих видов работы белых воротничков. В основном шоферы, водители грузовиков, все, кто зарабатывает на жизнь вождением, будут больше подвержены изменениям в течение 15–20 лет, и многие работы, которые кажутся немного сложными, повара, официанты, многие вещи станут автоматизированными, у нас будут автоматизированные магазины, автоматизированные рестораны, и в общей сложности через 15 лет это вытеснит около 40 процентов рабочих мест в мире».

«Меня беспокоит концепция автоматизации. Многие рабочие места будут автоматизированы; очень многое. Это принесет пользу людям, но также потребует огромных затрат . Я беспокоюсь, что «Сделано в Америке» превратится в «Сделано роботами в Америке».

«Но через столетие никого не будет волновать, сколько времени это заняло, только то, что произошло потом. Вероятно, машины будут умнее нас к концу столетия — не только в шахматах или вопросах викторины, но и практически во всем, от математики и инженерии до науки и медицины. Возможно, останется несколько рабочих мест для артистов, писателей и других творческих людей, но компьютеры в конечном итоге смогут программировать себя , усваивать огромные объемы новой информации и рассуждать способами, которые мы, основанные на углероде, можем только смутно себе представить. И они смогут делать это каждую секунду каждого дня, без сна и перерывов на кофе».

«ИИ, скорее всего, приведет к концу света, но в то же время будут существовать великие компании ».

«Поэтому, когда ИИ начинает принимать решения, например, о том, кому брать ипотеку, это большое дело. Или какие компании приобретать, и когда ИИ начинает создавать свои собственные компании, создавать холдинговые компании, генерировать новые версии себя для управления этими компаниями. Таким образом, между этими компаниями ИИ происходит выживание наиболее приспособленных, пока вы не достигнете точки, в которой вы задаетесь вопросом, возможно ли понять, как обеспечить их честность, и как вы вообще объясните компьютеру, что это значит?»

«Если компьютер может выполнять треть вашей работы, что происходит дальше? Вас обучают, чтобы брать на себя новые задачи, или ваш босс увольняет вас или некоторых ваших коллег? А что, если вместо этого вам просто сокращают зарплату? Есть ли у вас деньги на переподготовку, или вам придется терпеть удар по уровню жизни? Легко увидеть, что найти ответы на эти вопросы невероятно сложно. И это отражает трудности, с которыми мы сталкиваемся при понимании других сложных угроз со стороны искусственного интеллекта. Например, хотя нам не нужно беспокоиться о том, что сверхразумный ИИ выйдет из-под контроля в ближайшее время, нам нужно задуматься о том, как алгоритмы машинного обучения, используемые сегодня в здравоохранении, образовании и уголовном правосудии, выносят предвзятые суждения».