Ольга Арискина
358
Блоги

Искусственный интеллект: необходимость или бездумье

Наталья Краснобаева, генеральный директор компании «Роспартнер» рассказывает про сферы, в которые не стоит применять ИИ и почему он должен стать помощником для человека.

Поделиться

В избранное

В избранном

За последние 7 лет машинное обучение и искусственный интеллект занимают одну из лидирующих позиций в рейтинге технологических трендов. После того, как компания Apple купила Siri inc искусственный интеллект перестал быть выдумкой фантастов и реально вошел в нашу жизнь.

Многие специалисты критикуют текущий путь развития искусственного интеллекта. Некоторые религиозные секты объявили искусственный интеллект абсолютным злом и борются с его развитием, зато разработчики, занимающиеся нейросетями, лингвистическим программированием и прочими областями ИИ считаются наиболее востребованными и высокооплачиваемыми на рынке труда.

Почему бы не научить машину думать?

На симпозиуме «Brains, Minds and Machines» в Массачусетском технологическом институте (MIT) в 2011 году обсуждался вопрос использования нейросетей, правильность выбора пути, по которому развивается искусственный интеллект и что нас ждет в будущем. Итогом этого симпозиума стала знаменитая дискуссия, опубликованная в научных журналах Ноама Хомского и Питера Норвига (Хомский входит в пантеон основателей искусственного интеллекта, корефей MIT, Норвиг – директор по исследованиям Google). Основатели и их последователи говорили о том, что нельзя идти по пути статистики и голого использования машинного обучения. «Искусственный интеллект» они прозвали «искусственным бездумьем». Они яростно критиковали инженерный подход. Научный подход предполагает логику, систематизацию, постановку гипотез, их опровержение, критическое мышление, определение понятий, их связей, описание моделей и т.д. Ничего этого нет и близко в инженерном подходе Норвига. Согласно ему, мы берем большие данные (BigData) на основе обучающей выборки учим нейронную сеть, проверяем качество обучения и запускаем в производство. Так, например, в наших фотоаппаратах нейросети ищут улыбки, роботы сортируют мусор, системы видеоаналитики выявляют преступников. Питер Норвиг и его сторонники, корпорации Apple, Samsung и Baidu по сей день развивают свои технологии в инженерной гонке. Никто из них серьезно не развивает науку искусственного интеллекта, никто не пытается научить машину думать. В спецслужбах, хоть и частично применяют ИИ для решения задач «свой-чужой», сам ИИ не скоро будет принимать решения, кто является террористом, а кто заложник. Почему корпорации не хотят научить машину думать?

Однажды, у нас стояла задача: подготовить 100 тысяч вопросов и 100 тысяч ответов на 40 разных тем. Нужно было написать чат-бота, который определял бы категорию нового вопроса и давал наиболее релевантный ответ из имеющихся. Нам это удалось с помощью двух глубоких нейросетей. Если источник вопроса сохранялся, то бот за долю секунды определял категорию вопроса с точностью 92% и давал ответ, удовлетворяющий пользователя в 65% случаев. Но если человек говорил ему: «Борщ» или задавал вопрос: «Как пройти в библиотеку?», бот сразу выбирал одну из 40 тем и давал один из 100 тысяч ответов, но предупреждал, что он не уверен в своем результате. Бот не может чувствовать, сомневаться, нести ответственность и принимать важные решения. Нет такого фреймворка и технологии. Невозможно научить машину думать.

Роботы обладают точностью, скоростью выполнения задач. В хирургии роботизация начала развиваться в 80-х годах. Первым автоматическим роботом-хирургом назывался «da Vinci». В 2015 году создали более 3 тысяч таких роботов. Робот может сделать надрез с точностью до сотой миллиметра, но он бесполезен без хирурга. Хирурга он не сможет заменить еще много лет. Робот не знает анатомии и основ медицины, он работает по заранее заложенной программе микрокоманд.

Так почему же мы выбрали инженерный путь развития искусственного интеллекта? Есть две версии. В первой, инженерный путь проще и дешевле, именно поэтому его придерживаются корпорации, которые хотят быстрых денег. Во второй, корпорации решили, что Три закона робототехники Айзека Азимова несовершенны. Три закона гласят: 1) «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред»; 2) «Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону»; «Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам».

Когда появится машина, которая научится думать, у нее не будет сложностей создать большое количество себе подобных. Они будут развиваться и доминировать, и уничтожат человека, который будет им в этом мешать.

ИИ это помощник, а не замена человеку

Если вы спросите меня, боюсь ли я искусственного интеллекта я отвечу, что боюсь. Мы используем продукт под названием «Сервис-монитор» (система, которая следит за доступностью и недоступностью сайта) по автоматизации принятия управленческих решений в IT и производстве, который вскоре получит мозги, позволяющие быстро определить состояние сложной технологической системы и что с ней будет в будущем. Собирая несколько миллионов сообщений о состоянии элементов за один день, мы с вероятностью 70% будем знать, как себя будет чувствовать система через час, а это очень важно для транзакций в банках, энергетики, производства и т.д. Это сэкономит миллиарды рублей всем IT компаниям. Но я боюсь последствий данной технологии, и не хотелось бы перейти ту грань, когда машина станет самодостаточной на все 100%. Искусственный интеллект это помощник, а не замена человеку. На мой взгляд, только в рамках такого подхода у нас есть шанс на устойчивое развитие бок о бок с искусственным интеллектом.

{ "author_name": "Ольга Арискина", "author_type": "self", "tags": [], "comments": 9, "likes": 4, "favorites": 6, "is_advertisement": false, "section_name": "blog", "id": "34005", "is_wide": "" }
{ "is_needs_advanced_access": false }

Комментарии Комм.

Популярные

По порядку

0

Прямой эфир

Подписаться на push-уведомления
[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } } ]