Будущее Яна Серёдкина
953

Ответ Илону Маску: «восстание машин» невозможно (объяснение на пальцах)

ChinaFotoPress / Getty Images ChinaFotoPress / Getty Images
В закладки

Илон Маск рассказал онлайн-изданию Axios о проблеме ИИ. Согласно его прогнозу ИИ — реальная угроза. Он разовьётся — и вытеснит человечество, как мы вытеснили приматов.

Мы не согласны с этим. Конечно, мы — не выдающиеся светила науки как Илон, но тоже знаем роботов “изнутри”, поэтому имеем право на экспертное мнение. В этой статье все подробно расскажем и объясним.

Вы узнаете про:

  • 3 причины, почему роботов не стоит опасаться.

  • 3 направления, где ИИ не сможет превзойти человека НИКОГДА.
  • 4 рекомендации по предотвращению восстания роботов в бизнесе.
  • Как мы делаем роботов безопасными.
  • Экспертный прогноз будущего от HyperUp — синергия робот+человек.

Хотите подробностей? Тогда читайте дальше.

Об авторе

Всем привет! Мы, HyperUp — платформа для интеграции информационных систем и роботизации бизнес-процессов. Мы работали с Газпромтранс, IT-компанией “Танаис”, ТД “Башхим”, Авиакомплексом им. С.В. Ильюшина и другими организациями.

Мы делаем программных роботов.

Мы уверены: “Если бы роботы могли нас вытеснить, то они давно бы это сделали. Это случилось бы ещё на уровне бытовых электроприборов — армия микроволновок, холодильников и стиральных машин сделали бы быт человека ужасным, а компьютеры Intel превратились в киллеров.”

3 причины, почему восстание машин невозможно:

  • Роботы выполняют только заданную функцию. К 2019 году человечество изобрело устройства 3 режимов работы — автоматические, полуавтоматические и автономные. ИИ реализован как раз внутри последних. Это когда человек ставит перед роботом задачу, а ИИ думает над ее выполнением.
  • Даже ИИ управляется оператором — для предотвращения ошибок и своевременного сервиса.
  • Кроме того, ИИ однобок. Нельзя обучить робота делать одну функцию и думать, что с помощью ИИ он научится делать все остальные. Например, обучив робота играть в шахматы нельзя дать ему ссылку на Counter Strike и сказать "играй". Так может только человек.

Искусственный интеллект целесообразно применять только на определённых участках процессов. Например, при распознавании изображений.

Но описывать алгоритмы, как это изображение попадает к роботу и что нужно с ним сделать после того, как изображение будет распознано — это может только человек.

3 направления, в которых ИИ не сможет превзойти человека НИКОГДА

Это следующее:

  1. Распознавание способов взаимодействия в команде.
  2. Определение предрасположенности к определенной деятельности.
  3. Творческая деятельность (в понимании “создаём то, что раньше не существовало.”).

Да, роботы выигрывают в работе с большими массивами данных, рутиной.

Но они не могут быть гибкими и понимающими в отношении исключительных ситуаций. Если нужно найти решение, с которым программа раньше не сталкивалась, то у неё ничего не получится.

4 рекомендации по предотвращению восстания роботов в бизнесе

1. Систематически общаться с роботом

Роботы строятся по принципу логирования всех своих действий. Некоторые из них умеют отправлять отчеты по почте или в мессенджере.

Чтобы лучше понять робота, необходимо изучать его отчёты, анализировать результаты его деятельности за прошлый период, проверять, с какими ошибками столкнулся робот.

Всё это поможет совершенствовать его алгоритм.

2. Не давать ему творческие задачи

Конечно искусственный интеллект развивается большими темпами и активно начинает применяться в задачах бизнеса, но пока в массе своей роботы выполняют рутину.

Роботы не справляются с творческими задачами. Зато они прекрасно работают с данными.

3. «Дружить роботов между собой»

Внедряя роботов вы скорее всего столкнетесь с необходимостью подключения нескольких программ. Тогда их может стать слишком много, и нужно будет оптимизировать временные затраты на управление ими.

Эффективнее всего управлять роботами из единого контрольного пункта — фермы. Она делается с помощью интеграционных шин, позволяющих объединить несколько роботов между собой.

Ферма поможет роботам разгружать друг друга. Если один робот может не успевать сделать всё, то 2 всё смогут :)

4. «Дать ему испытательный срок»

Задействовать робота на не критическом участке бизнес-процесса.

Критический участок — часть бизнес-процесса, где принимается решение о совершении или не совершении действия. Если поставить робота на КУ сразу, то произойдёт сбой.

Сначала нужно отладить робота, понять особенности и ограничения, и только после этого передавать ему задачи на критическом участке.

Кейсы внедрения безопасных роботов

Покажем на примерах из практики, как это работает.

Кейс 1 “Бизнес-процесс “Управление командировками”

В рамках данного кейса робот покупает авиабилеты в процессе оформления командировки.

Упрощенно процесс состоит из следующих этапов:

  1. Указать параметры командировки.
  2. Согласование командировки.
  3. Покупка билетов.

На разных этапах робот может выполнять следующие задачи:

  1. Указать параметры командировки:

    · Получение цен, вычисление стоимости командировки.

    · Бронь билетов.

  2. Согласование командировки.
  3. Покупка билетов.

Кейс 2 “Бизнес-процесс “Оплата счета”

Упрощенно процесс состоит из следующих этапов:

  1. Получение счёта

  2. Согласование оплаты счета.

  3. Отправка счета на оплату.

На разных этапах робот может выполнять следующие задачи:

  1. 1. Получение счёта:

    · Робот заходит в почтовый клиент, извлекает письмо со счетом.

    · Далее заносит счет в информационную систему.

  2. Запускает процесс согласования оплаты счета.

  3. Отправка счета на оплату:

    · Робот открывает банк-клиент, переносит данные из счета в банк-клиент, проводит оплату.

3 причины, по которым наши роботы никогда не восстают

  1. Мы создаем роботов в помощь. Они раздвигают границы возможностей человека.

  2. Отдаём контроль над ними. Программы работают автономно только частично.

  3. Цель наших роботов — облегчить вашу долю и освободить место для творческих, стратегически важных решений человеку. Мы прописываем это в их коде, так что они никогда не посчитают человека потенциальной угрозой.

Если мы говорим, что апокалипсиса не будет, то хорошо бы уточнить, что будет. Сейчас мы расскажем об этом.

Прогноз будущего

В феврале 2017 года физик-теоретик Стивен Хокинг и Илон Маск решили, что люди должны ограничивать возможности ИИ. Подробнее об этом можно прочитать здесь. Это для предотвращения исхода, когда роботы обойдут человечество по уровню развития и “вытеснят”, подобно как мы вытеснили приматов в своё время.

Однако это не произойдёт в ближайшие 10-20-30 лет точно.

Сегодня роботы создаются на основе математических алгоритмов. Они не могут творить, создавать себе подобных. Вдобавок робот лишён многого, что есть у человека — об этом мы писали выше.

Конечно, в перспективе это возможно исправить. Существует ТРИЗ (Теория Решения Изобретательских Задач) — набор технологий, позволяющих автоматизировать творчество. Если кратко, суть её в правильной постановке изобретательской задачи, и выработке решения с помощью ряда алгоритмов. Очень интересная разработка, но сложная.

Цифровизация ТРИЗ и её внедрение в ИИ будет дорогостоящим. И даже если кто-то решится внедрить эту технологию, он потратит на это колоссальное количество ресурсов. Вряд ли денег и времени на это хватит даже у масонов или Илона Маска.

В будущем случится синергия человека и робота. Роботы будут дополнять человека там, где это возможно. Они займутся решением рутинных задач и освободят время человека для творчества.

Поэтому людям не стоит бояться апокалипсиса.

Резюме

Думаю, теперь понятно, что восстание машин невозможно.

И вот что мы написали в статье в поддержку своего мнения.

  • 3 причины, почему роботы безопасны.
  • 3 направления, где ИИ не сможет превзойти человека НИКОГДА.
  • 4 рекомендации по предотвращению восстания роботов в бизнесе.
  • Как мы делаем роботов безопасными.
  • Также мы попытались сделать экспертный прогноз развития ситуации.

Материал опубликован пользователем. Нажмите кнопку «Написать», чтобы поделиться мнением или рассказать о своём проекте.

Написать
{ "author_name": "Яна Серёдкина", "author_type": "self", "tags": [], "comments": 18, "likes": 2, "favorites": 16, "is_advertisement": false, "subsite_label": "future", "id": 63799, "is_wide": false, "is_ugc": true, "date": "Mon, 08 Apr 2019 11:32:13 +0300" }
{ "id": 63799, "author_id": 262000, "diff_limit": 1000, "urls": {"diff":"\/comments\/63799\/get","add":"\/comments\/63799\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/63799"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199118, "last_count_and_date": null }

18 комментариев 18 комм.

Популярные

По порядку

Написать комментарий...
5

Творческая деятельность (в понимании “создаём то, что раньше не существовало.”).

Покажите мне человека, который создал что-то, не опираясь до этого на чьи-то идеи и опыт, создание новой картины, музыкального жанра, айфона, это всегда перетекание и развитие предидущих идей из разных областей.

Ответить
0

Творчество состоит из 2 компонентов:
- Чей-то опыт,
- Его прокачка, улучшайзер.

А когда простое копирование, опираясь на чей-то там прошлый опыт - это нифига не творчество.

Ткнуть пальцем? Бл*... Джефф Безос!

Ответить
0

ИИ ровно этим и зханимается. почитайте как ИИ учился играть в Го, играя сам с собой

Собственно автор статьи не берёт во внимание, что под ИИ понимают как раз те программы, которые не делают заранее запрограммрованных человеком сействий. робот на заводе - это не ИИ. а вот машина Waymo, котоорая сделала миллиард поездок и научилась объезджать препятствия - это как раз типичный ИИ

Ответить
3

Даже ИИ управляется оператором — для предотвращения ошибок и своевременного сервиса.

Судя по статье для вас ИИ это любой робот или нейросеть.
ИИ пока нету в природе и все ваши доводы мимо.
поэтому имеем право на экспертное мнение

По факту мнение дилетантов.

Ответить
2

Не возможно? А как вы тогда объясните вот это блеать?????

Ответить
2

Это программист, я фотошофт

Ответить
0

мне насрать, терминатор программист или кофеварка, просто это уже ни в какие ворота не лезет!

Ответить
1

устройства 3 режимов работы — автоматические, полуавтоматические и автономные. ИИ реализован как раз внутри последних. Это когда человек ставит перед роботом задачу, а ИИ думает над ее выполнением.

Это не ИИ а совокупность скриптов, по вашему робот пылесос в доме наделен настоящим ИИ? Ему тоже ставят задачу убрать в комнате, а как это сделать он "думает" сам.

3 направления, в которых ИИ не сможет превзойти человека НИКОГДА

Вот это вообще без комментариев, что это за экспертные вскрики НИКОГДА?

Маск опасается именно настоящего ИИ, такого пока нет и в ближайшие годы не будет.

Ответить
1

а мне статья понравилась :) я просто экономист, и это объяснение "на пальцах" - прям в кассу. Парни нашли своего читателя - гуманитария! :)

Ответить
0

ну так, гуманитарии - гуманитариям

Ответить
0

Пишите: "ПОЧЕМУ НЕВОЗМОЖНО ВОССТАНИЕ МАШИН" и тут же даете советы - 4 рекомендации по предотвращению восстания роботов в бизнесе.

Ответить
0

Прям "не возможно"?

Ответить
0

Невозможно*

Ответить
0

Трэш. Дочитал до слова "никогда" и закрыл

Ответить
0

Нашлись те, кто занимается разработкой ИИ, выполняющего функции, не приносящие вреда, найдутся и те, кто сделает наоборот.

Ответить
0

Никогда не мог понять как в том же "Терминаторе" машины решали проблемы поломки конвееров по производству машин, ведь для этого нужна НАДмашина. Кто тогда их будет чинить? Наднадмашина? Замкнутый круг. ИИ не выиграет эту гонку, разве что уничтожит все живое и закономерно погибнет сам. Но тогда какой смысл в нем самом с точки зрения самого ИИ? Философская рекурсия.

Ответить
0

Вообще спорное заявление про роботов, что они никогда не нападут. В принципе спорность возникает с момента, когда Илон Маск, спекулянт, аферист и эксплуататор, выдаётся как светило науки (он скорее икона наших любителей западной цивилизации, мыслящих картинками, и не понимающих как многое в мире и экономике связано, но не суть).
Суть: если роботам добавить и сделать основной целью функцию, которая породила и поддерживает жизнь, то они вполне смогут когда-нибудь бороться с другими формами жизни.
Эта функция: бесконечно копировать себя, приспосабливаясь к окружающим условиям.
Это в целом о философском вопросе. По поводу ваших роботов HyperUp, наверное да, пока не нападут :)

Ответить
0
{ "page_type": "article" }

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } } ]
Хакеры смогли обойти двухфакторную
авторизацию с помощью уговоров
Подписаться на push-уведомления
{ "page_type": "default" }