Рубрика развивается при поддержке

Терминатор – друг человека, или как перестать бояться и полюбить ИИ

Восстание машин, о неизбежности которого нам рассказывали на протяжении пяти частей фильма «Терминатор» и снова расскажут в шестой, откладывается на неопределенный срок. Более того, оно вообще никогда не произойдет, если только мы не устроим его себе сами. Роботы и искусственный интеллект – производная человека, которая по своей воле не выйдет за рамки дозволенного.

В закладки

Страхи с историей

Ученые, эксперты, футурологи всерьез опасаются, что развитие искусственного интеллекта, обладающего способностью самостоятельного мышления, обернется для людей настоящим концом света. Максимально приближенный к человеку в плане широты и глубины мышления ИИ (так называемый ИИ общего назначения) не сулит людям ничего хорошего.

И это не маргинальная идея: такие люди, как Билл Гейтс, Илон Маск и Тим Бернерс-Ли не раз выражали по этому поводу серьезную озабоченность. ИТ-гуру говорили как о прямом апокалипсисе, так и возможном воцарение «бессмертного диктатора», от правления которого человек не сможет избавиться никогда.

Даже Стивен Хокинг предупреждал, что развитие общего искусственного интеллекта «может означать конец человеческой расы как таковой». Страхи научной элиты восходят к самому началу компьютерной эры, когда сам Алан Тюринг писал, что машины со временем «превзойдут наши слабые силы» и «возьмут жизнь под свой контроль».

Pro et contra

Впрочем, на эти прогнозы находятся обоснованные возражения: ИИ следует развивать в узкоспециализированных областях, прикладных и ограниченных кругом конкретных задач. И если делать это вдумчиво и ответственно, то машинный интеллект будет присутствовать в нашем мире как один из важнейших элементов его дальнейшего развития к новым высотам цивилизации.

Причем не просто как совершенно безопасный элемент, но и полезный. Беспилотные авто будут спасать десятки тысяч человеческих жизней каждый год, ту же задачу помогут решить ИИ-средства медицинской диагностики, мониторинг опасных производств и т.д.

Самые продвинутые ИИ-энтузиасты идут еще дальше: компьютеры полностью возьмут на себя выполнение ежедневных задач по жизнеобеспечению, необходимость в работе для человека отпадет, а смерти не будет, потому что содержимое мозга можно будет перекачать в облако, продолжая общение с помощью привычных мессенджеров и других интерфейсов для коммуникации.

Пессимисты уверены в обратном: нет никаких причин для ИИ испытывать к человеку чувства благодарности и почтения. Теоретических оснований для этого нет, а масштабы разрыва в возможностях интеллекта между людьми и их творениям будут совершенно невообразимыми, опережающими сегодняшний, и без того крайне серьезный уровень.

Через призму искусства

Скрипач не нужен, а люди – биологическая прелюдия, «разогрев» перед большим digital-концертом длиною в вечность? Если посмотреть на образы будущего, которые по этому поводу создавались в искусстве, всё действительно плохо. В трудах многих писателей фантастов сверхмощные компьютеры и работы-андроиды человека не жаловали.

В кинематографе все еще хуже. В творениях Кубрика, Скотта, братьев Вачовски и нашумевшем сериале «Мир Дикого запада», в незабвенной франшизе Кэмерона «Терминатор», шестая часть которого выходит на экраны, везде – человек неизменно распознается продвинутым ИИ как низшая форма жизни. Что порождает конфликты, сценарии глобальной эксплуатации и открытую войну на взаимное уничтожение.

Даже в трогательном спилберговском «Искусственном разуме», где андроид-ребенок выведен максимально «человечно», без конфликта «люди – машины» не обходится. Словом, искусство активно подкрепляет тревожную тональность ИТ-гуру.

Все в наших руках

Сегодня оценки примерной даты появления полноценного ИИ общего назначения приходятся на диапазон 2045-2050 годов, что совпадает с аналогичными прогнозами по поводу старта эры «сингулярности» - качественного фазового перехода в уровне развития технологий.

Ждать осталось не так недолго.

Однако, здесь на помощь человеку может (и должен) прийти «самонесбывающийся негативный прогноз»: когда о каком-то неблагоприятном явлении в будущем говорят так много и подробно, что в процессе этих обсуждений рождается решение проблемы, и она не материализуется в реальной жизни. Вспомните компьютерный конец света 2000 года, который должен был наступить из-за глобального сбоя в мировых ИТ-системах.

Однако, чтобы самые страшные сценарии воплощения ИИ общего назначения не стали реальностью, необходимо действовать. И вот как.

План действий

Во-первых, параллельно с развитием вычислительных мощностей и сценариев прикладного использования компьютерного мозга нужно также глубоко прорабатывать вопросы устойчивости ИИ.

Это – отдельное направление в развитии всего спектра технологий искусственного интеллекта, которым следует заниматься профильным специалистам, постоянно решающим задачи функционирования ИИ надлежащим (безопасным для человека) образом.

Во-вторых, с масштабированием применения ИИ-алгоритмов необходимо четко отслеживать практику, поскольку строгая математическая ориентация компьютера на определенный результат не предполагает соблюдения этических аспектов, неотъемлемых в широком спектре типично «человеческих» задач. Машина без подсказки и контроля такие вещи считывать не в состоянии.

Наконец, самое главное – прекратить панику по поводу восстания машин, кровожадных Терминаторов и массовой гибели людей из-за «чувства» превосходства ИИ над нами и принципиальной возможности всех нас уничтожить.

Милый терминатор

Любой ИИ развивается через процесс интерполяции суммы прошлого опыта на будущие действия. То есть, набор исходных правил и принципов, позволяющий принимать решения о действиях, предоставляет машине получать ту самую самостоятельность действий, развития которой мы сегодня опасаемся.

Однако авторы многочисленных негативных прогнозов по ИИ и человеку забывают одну важнейшую деталь: при смене общей парадигмы действия, его контекста, хорошо спроектированный ИИ никаких действий предпринимать не будет. В непонятной для себя (новой) ситуации, как и полагается машине ИИ просто «зависнет» и обратится за помощью к человеку.

В худшем сценарии, конечно, ИИ может пуститься в самодеятельность и без опоры на какой-либо опыт или прописанный сценарий, натворить дел. Но только в том случае, если такую дыру пропустят разработчики, что полностью контролируется на этапе создания алгоритма.

Говоря о глобальной угрозе самостоятельного ИИ общего назначения, который обзаведется мотивацией, направит ее во враждебное русло по отношению к человеку и устроит нам планетарный геноцид, нужно делать одну ключевую оговорку.

А именно: это невозможно до тех пор, пока человек сам не осознает, каким образом он без опоры на предыдущий опыт приходит к прорывным, революционным идеям, и не научит этому процессу ИИ, такого рода шаги в исполнении машин невозможны в принципе. То есть, принципиальная возможность додуматься до получения какой-то формы ценности для ИИ от уничтожения людей сегодня не существует. Для этого машинный интеллект должен обладать не столько сверхмощными вычислительными ресурсами, сколько неким личностным аспектом, не существующим на данный момент в природе.

И на мой взгляд, вряд ли таковой когда-нибудь появится.

Важность прошлого

Самообучение возможно только на прошлом, историческая перспектива обучения – его ключевой элемент. Современный мир настолько часто меняет «точки отсчета» для формирования ответов на различные ситуации, что ИИ самостоятельно на них отвечать оказывается неспособен. Какой-бы мощный компьютер и продвинутые алгоритмы не лежали в основе конкретного решения.

Нет понимания контекста – нет действий. Не существует реперной точки, от которой ИИ может оттолкнуться и по цепочку умозаключений принять судьбоносное решение в духе «Боже, какой я умный, как сильно я превосхожу этих ничтожных людишек. Кстати, давай-ка я их уничтожу».

Этого не произойдет потому, что ранее в истории ИИ не существовало роботов, которые однажды пришли к такому заключению и реализовали его в своей практике.

Да, искусство виртуозно паразитирует на очевидных страхах: а что если ИИ-полицейский начнет (вдруг) трактовать самые бытовые ситуации не в пользу человека, усматривая в уничтожении ребенком комара преступление, тут же карая его смертной казнью?

В подобных рассуждениях больше эмоций, чем правды жизни – чтобы они воплотились в жизни, необходимо чтобы разработчики оставили лазейку для подобного сбоя, а учитель ИИ разметил в алгоритме такую ситуацию в качестве эпизода нарушения закона с соответствующим наказанием. Сам по себе ИИ к такому никогда не придет. Просто не додумается.

Все дело в нас

Человеческий фактор в ИИ, таким образом, остается главным фактором риска для человечества. Если целенаправленно не учить роботов и ИИ потенциально опасным вещам, проводить соответствующую профилактику и грамотно просчитывать возможные сценария обучения ИИ, никакого апокалипсиса и глобального мега-тирана в духе Большого Брата не предвидится.

Любая машина – это то, что мы из нее делаем. Помните, в том же «Терминаторе» Т-800 был перепрограммирован Джоном Коннором, преданно служил ему, а затем и «погиб», защищая жизнь хозяина до последнего импульса своего электронного мозга.

Как миленький. Потому, что так запрограммировал его хозяин.

Лариса Малькова, управляющий директор Accenture Digital в России

Материал опубликован пользователем.
Нажмите кнопку «Написать», чтобы поделиться мнением или рассказать о своём проекте.

Написать
{ "author_name": "Лариса Малькова", "author_type": "self", "tags": [], "comments": 7, "likes": 0, "favorites": 4, "is_advertisement": false, "subsite_label": "future", "id": 91398, "is_wide": false, "is_ugc": true, "date": "Wed, 06 Nov 2019 16:54:54 +0300", "is_special": false }
Самый сильный бренд
страны*
*Третий год подряд по версии Brand Finance
0
{ "id": 91398, "author_id": 390015, "diff_limit": 1000, "urls": {"diff":"\/comments\/91398\/get","add":"\/comments\/91398\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/91398"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199118, "last_count_and_date": null }
7 комментариев
Популярные
По порядку
Написать комментарий...
1

Мем смешной, а ситуация страшная)))

По теме - ИИ уже сейчас позволяет за пару дней создавать стартапы, решающие потребности людей, скажем, в сфере медицины - пример: https://vk.com/wall-31492982_1457 

Я намекаю, что здесь речь конечно идёт о проектах другого уровня)) 

Ответить
2

Вы правильно указали, что Стивен Хокинг, и ему подобные, всего "Предупреждают" о том, что может произойти :) 

Ответить
0

Ну да) Но всё-равно, если есть вероятность появления глобальных проблем, о ней лучше знать заранее))

Ответить
1

Когда кто либо обсуждает ИИ - он забывает про главное отличие в когнитивных функциях.

Это ( глубина  сомнения выбора и мульти-факторность вариативности основ значения приза для индивида во времени )
Как только осознаете к годам так 55-60 смысл этих комбинаций слов, в разрезе гормональных последствий обратной связи с биотой и интервенционных мотивов поведенческой модели различных расовых ответвлений и социальных групп. Вот тогда и наступит время поболтать о ИИ и его автономии.

Ответить
0

Забавный комментарий. 

Однако не стоит всех оценивать по своему уровню умственных способностей. Если что, я имею в виду неспособность предметно обсуждать вопрос.

В статье речь идёт о воздействии на социум такой технологии, как ИИ. Говорится о том, что вокруг неё, как при и появлении любой другой технологии или способа оптимизации бизнеса, например концепции больших данные, поднято много шумихи. Однако нужно уметь отделять пустой трёп (типа вашего) от реального потенциала того или иного инструмента. 

Например, данные кому-то позволяют уже сейчас зарабатывать от 5+ млн. рублей в день http://bit.ly/32lLqHf (Надеюсь, сможете самостоятельно плюс-минус прикинуть сколько это в месяц. Ну если нет, может поймете к годам так к 55-60 - Накопите там, или на экскурсию в банк пойдёте..) 

Потенциал же ИИ ещё полностью не раскрыт. И сценарии его применения, как позитивные, так и негативные, зависят прежде всего от людей, которые их закладывают. Опять-таки, это относится к тем, кто считает, что на это способен (судя по комменту, себя я так понял вы к ним не относите. Ну, не велика потеря). 

Ответить
0

Вместо тысячи слов  - покажите Ваш кейсы в РФ на примере компаний из:

1- производство товаров; различной продукции;
2- добыча сырья; его обработка;

3- сельское и лесное хозяйство;
4- рыболовство, рыбоводство;

5- предоставление услуг; выполнение работ;

6- оптовая, розничная торговля;

7- финансовая,
8- строительная;
9- посредническая деятельность.
10 -логистика;

Где четко прослеживается влияние  на основные показатели KPI ваших Клиентов.
Особенно - Ваши наработки в сфере ИИ,  в разрезе рыночных циклов ваших клиентов минимум 3 года и влияние на ко-маркетинговые последствия для компаний,   и как ваши решения действуют в рамках диффузной модели коммуникации Колемана.

В доказательство эффективности ваших решений дайте пару  кодов  ОКПО ваших постоянных клиентов.

Ответить
{ "page_type": "article" }

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "Article Branding", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cfovx", "p2": "glug" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Баннер в ленте на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "disable": true, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } }, { "id": 20, "label": "Кнопка в сайдбаре", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cgxmr", "p2": "gnwc" } } } ] { "page_type": "default" }