Рубрика развивается при поддержке
Будущее
fanzon
7243

Теперь это их мир

Перевод статьи сценариста «Доктора Стрэнджа» и писателя Роберта Каргилла о будущем и угрозах искусственного интеллекта.

В закладки
Аудио

Искусственный интеллект и робототехника всё увереннее переходят из области фантастики в реальность. В последнее время с завидной регулярностью появляются новости о разработках в этих областях, и почти столь же часто звучат предупреждения об угрозах, которые те могут таить для человечества.

Журналист, фантаст и сценарист Роберт Каргилл (сотрудничал с сайтами Ain't It Cool News, film.com и hollywood.com, работал над фильмами «Доктор Стрэндж» и «Синистер») написал роман «Море ржавчины», в котором подобные опасения оказались не напрасны, и роботы уничтожили своих создателей.

В преддверии релиза книги на английском Каргил написал статью об опасностях искусственных интеллектов. В честь выхода романа на русском языке мы подготовили перевод материала.

Я не собирался писать актуальный роман, честное слово.

Когда идея «Моря ржавчины» пришла ко мне несколько лет назад, целью было написать забавную, приключенческую историю о роботах, действие которой разворачивается после гибели человечества. Книгу с постапокалиптической атмосферой и большим количеством экшена.

Но постепенно идеи из бесформенных образов начали, переплетаясь между собой, превращаться во что-то гораздо более конкретное. И вместе с этим пришло осознание, что для той многогранной истории, что я задумал, требуется гораздо более проработанный мир, чем мне представлялся изначально.

И когда я углубился в исследование и наметил путь к такого рода будущему, мне пришлось столкнуться с множеством вопросов, которые мы, как общество, начнем задавать. Это вопросы, которые на этой неделе (на той самой неделе, когда книга фактически вышла) мировые лидеры начали публично обсуждать.

Когда я проснулся и обнаружил, что Владимир Путин произнес вдохновляющую речь об искусственном интеллекте, сначала у меня засосало под ложечкой.

«Искусственный интеллект — это будущее не только России, но и всего человечества, — сказал он. — Это связано с колоссальными перспективами, но также и с угрозами, которые трудно предсказать. Тот, кто станет лидером в этой сфере, станет правителем мира».

Я в шутку написал в Twitter, что он подглядел в моей книге, и поблагодарил его за это. Но по мере того, как я углублялся в его речь, вес его послания становился всё более ясным.

Это была не шумная болтовня о будущем России и её необходимости стать мировым лидером в новой технологической революции — это было стартовым выстрелом для очень опасной гонки, которая, если мы не будем осторожны, может направить нас всех на очень тёмный, тяжкий путь.

Привлекательность искусственного интеллекта неоспорима. В то время как на ум мгновенно приходят разумные оружия из «Терминаторе» или дружественные роботы-компаньоны из романов Азимова, легко отмахнуться от них, посчитав, что они не нужны обществу или не представляют угрозы.

Но как насчет искусственного интеллекта, единственная работа которого — изучать, анализировать и в конечном итоге лечить рак? Или болезнь Альцгеймера? Или узнать, как обратить вспять процесс старения, вызвать регенерацию в организме человека? Или изучать астрономические угрозы? Или погодные условия, чтобы предсказывать ураганы на недели вперед, если не месяцы?

Это будет интеллект, которому никогда не нужно будет есть, спать или заниматься сексом, который не нуждается в деньгах или в выходных. Сознание с прямым доступом ко всем необходимым данным, которые ему потребуются. Сознание, которое никогда не отвлечётся и способно проводить неисчислимое количество операций. Сознание, полностью сфокусированное на раскрытии тайн святых граалей современной науки.

Какие могут быть причины, чтобы не создавать его?

И что произойдет, когда этот большой интеллект начнет думать сам за себя и решит, что лучше потратить свое время на другие, более интересные для него занятия?

Имея это в виду, большие умы вроде Илона Маска настаивают на ограничениях на производство оружия для войны. Маск недавно высказался в Twitter: «Китай, Россия, скоро все страны будут обладать серьезными научными знаниями в области информатики. Международная конкуренция за лидерство в области искусственных интеллектов — наиболее вероятная причина Третьей мировой войны».

Нам безусловно необходимо начать с того, чтобы прислушаться к его словам. Но создание оружия — не самая большая угроза нашему существованию. Нет, настоящая опасность в экономическом хаосе, который может охватить цивилизованный мир. Видите ли, вы уже регулярно взаимодействуете с примитивными версиями ИИ.

Вы когда-нибудь звонили в телефонную компанию, где с вами говорил компьютер полноценными предложениями, прежде чем переадресовал вас к человеку, способному справиться с вашей проблемой? Всего через десять лет вам больше не нужно будет говорить с кем-либо; вы просто поговорите с компьютером без дальнейшей переадресации, в этом не будет ничего удивительного. Ничего больше для телефонного сервиса не потребуется.

Но что произойдет с человеком, чья работа заключалась в этом? Что произойдет с миллионами других людей, имеющих схожие работы? Что произойдет, когда все машины в мире не будут нуждаться в водителе, больше не будут разбиваться, больше не будут нуждаться в ремонте, буксировке и страховании после аварии?

А как насчет профессий, которые исчезнут? И это только верхушка айсберга, касающаяся рабочих мест, на смену которым придут ничего не чувствующие искусственные интеллекты. Однажды компьютеры смогут стать разумными, и тогда многие сферы деятельности, существующие сейчас, окажутся не нужны. И больше не будут появлятся новые отрасли, в которые могли бы перейти, оставшиеся без работы люди.

И нам будет от этого только лучше — если, конечно, не считать досадной проблемы с безработицей.

И нам нужно об этом подумать об этом сейчас. Это будущее, которое ждет нас в ближайшие десятилетия, а не столетия. Вы вполне можете дожить не только до того дня, когда машина заменит вас, но и до того дня, когда машина будет решать, нравитесь вы ей или нет.

В «Море ржавчины» я отталкиваюсь от этой идеи, чтобы создать приключенческую историю. Но я надеюсь, что она также даст пищу для размышлений — о поиске места для человека в мире, где машины делают неприятные, трудоемкие или сложные вещи, которые мы в настоящее время делаем сами.

Хотя я искренне надеюсь, что война с роботами по-прежнему остается только сюжетом фантастических произведений, самая настоящая экономическая битва нас ждёт. И нам нужно работать совместно, чтобы в итоге победителем стала не одна нация, а человеческая раса в целом.

Материал подготовлен редакцией издательства интеллектуальной фантастики fanzon.

Материал опубликован пользователем.
Нажмите кнопку «Написать», чтобы поделиться мнением или рассказать о своём проекте.

Написать
{ "author_name": "fanzon", "author_type": "self", "tags": ["\u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439\u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442","\u0431\u0443\u0434\u0443\u0449\u0435\u0435"], "comments": 6, "likes": 30, "favorites": 51, "is_advertisement": false, "subsite_label": "future", "id": 64576, "is_wide": false, "is_ugc": true, "date": "Mon, 15 Apr 2019 17:53:55 +0300", "is_special": false }
Самый сильный бренд
страны*
*Третий год подряд по версии Brand Finance
0
{ "id": 64576, "author_id": 193408, "diff_limit": 1000, "urls": {"diff":"\/comments\/64576\/get","add":"\/comments\/64576\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/64576"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199118, "last_count_and_date": null }
6 комментариев
Популярные
По порядку
Написать комментарий...
2

Собственно отчасти это уже их мир. Сотни людей создают распределенные системы, которые ни один отдельный человек не может сказать точно как работают. А через 20-30 лет, когда все команды работвшие над тем или иным проектом распадаются, придется создавать исследовательский институт из сотней людей чтобы понять как та система работала.

И эти системы принимаются как законы - пока полуофициально, на уровне политики компаний, типа - "вам не показываются эти результаты выдачи, потому что наш алгоритм так решил, ничего не можем поделать".

Но не за горами время, когда подобные решения будут и на официальном-законодательном уровне приниматься ИИ ("система определила у Вас склонность к педофилии, Вам -100 соц баллов, запрет на посещение семейных мест и обязательно пройти курс реабилитации" - но почему??я ничего не делал.. - "нет оснований не доверять показаниям системы"). В Китае уже отчасти такие системы работают.

Ответить
1

Эх, классика)

Ответить
–1

Искусственный интеллект никогда не станет Разумом (сознанием). Разум может существовать только в человеческом теле, его основное свойство - смертность. Именно это свойство и движет Разумом. А ИИ сам по себе думать не может, ему каждый раз нужно задавать задачу, ему самому в этой жизни ничего не нужно, им ничего не движет, сколько бы он не думал. Ему даже думать нет смысла, т.к. у него нет потребностей, он бессмертен и спешить ему некуда.

Ответить
0

компьютеры тоже не вечны, через 10^100 лет вселенная распадётся на отдельные атомы, так чот ваше условие выполнено :)

Ответить
0

Если человечество погибнет,то только по своей вине,даже если его уничтожат роботы.

Ответить
2

Каргилл это и имел ввиду

Ответить

Комментарий удален

{ "page_type": "article" }

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "Article Branding", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cfovx", "p2": "glug" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Баннер в ленте на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "disable": true, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } }, { "id": 20, "label": "Кнопка в сайдбаре", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cgxmr", "p2": "gnwc" } } } ] { "page_type": "default" }