Сооснователь Google Сергей Брин поделился опасениями по поводу искусственного интеллекта Статьи редакции

Брин переживает о безопасности людей, которые столкнутся с «умными» машинами.

Сооснователь Google Сергей Брин предупредил об угрозе технологий ИИ в ежегодном письме от основателей Alphabet. Письмо опубликовано на сайте компании.

Брин рассказал, что Alphabet использует ИИ для работы домашнего помощника Google Home, переводчика, видеосервиса YouTube и для других целей. Однако подобные разработки приводят к новым обязанностям и вопросам, которые предстоит решать компании в ближайшее время, пояснил он.

Как эти технологии повлияют на занятость в разных секторах? Как мы поймём, что происходит у них «под капотом»? Могут ли они манипулировать людьми? Они безопасны?

Брин также перечислил инициативы в сфере ИИ, в которых участвует Alphabet для исследования этих вопросов: Bringing Precision to the AI Safety Discussion, DeepMind Ethics & Society, PAIR: People+AI Research Initiative, Partnership on AI.

В июле 2017 года глава Tesla Илон Маск назвал искусственный интеллект «основной угрозой» для человечества. В выступлении перед губернаторами США Маск предупредил, что искусственный интеллект может стать причиной роста безработицы и войны.

0
45 комментариев
Написать комментарий...
Айдар Фархутдинов

Я не боюсь, в моей стране есть РКН.

Ответить
Развернуть ветку
Vitaly Tolstykh

Во-во! Это практически оплот сопротивления во главе с Джоном Жаровым

Ответить
Развернуть ветку
new_comment

Первый канал: "ФСБ сообщили, что террористы использовали кластер из 40 000 видеокарт NVIDIA для вычисления оптимального места для терракта".

Ответить
Развернуть ветку
Romka
Ответить
Развернуть ветку
Ivan Filyaev

Антон?

Ответить
Развернуть ветку
Андрей Смехов

Фиона

Ответить
Развернуть ветку
Angry

Осёл !

Ответить
Развернуть ветку
Arman Arutyunov

Robot Uprising!

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Dmitry Davydov

ты готов, что тебя заменит машина?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Макар Акулич

+
А именно обслуживанием, программированием, и продажей самой машины и продукта, который она производит.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
new_comment

Вот ИИ пусть и займётся решением этой проблемы. Он же умнее. Чего с нас - глупых человечков спрашивать?...

Ответить
Развернуть ветку
Станислав Алешин

Ну да, и рано или поздно машина "включит Сталина" - нет человека - нет проблем)

Ответить
Развернуть ветку
new_comment

Большинство тех, кто опасается ИИ, сходятся во мнении, что:
1. ИИ намного превзойдёт человека;
2. ИИ захочет его уничтожить.
Разве из этого не следует, что уничтожение людей - это наиболее рациональный путь развития?
Если это так, - тогда чего обижаться? Но возможен вариант, что ИИ найдёт какой-то иной путь развития. Ведь это люди считают, что разум захочет их уничтожить. А более умный ИИ вполне может решить по-другому.
Вообще, все эти рассуждения напоминают мне опасения древних обезьян о том, что их вытеснят хомо сапиенсы.

Ответить
Развернуть ветку
Станислав Алешин

Ну, ресурсов у ИИ побольше, так что, вероятно, ИИ должно превзойти человека. Да и вообще, машины уже превзошли человека, в той или иной степени. А на счет уничтожения, надо же чего-то бояться, вполне разумно, вроде.

Ответить
Развернуть ветку
Прочел это-потратил время зря

Во-во, машина задумывалась как помощник человеку, но что-то пошло не так и сейчас человек большую часть времени обслуживает машину, чем пользуется ей

Ответить
Развернуть ветку
Dmitry Davydov

Легко сказать.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Maxim Tsyplakov

или ничем, что тоже неплохо

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
topovyj

Странно что люди которые вроде понимают что скрывается под пиарным словосочетанием ИИ - вдруг стали дружно нести речи об опасности (которой там и близко конечно нету, все специалисты это знают). Скоро мы узнаем что за этим скрывается. Логичных вариантов много.
Самая веселая и нелогичная теория такая:
Людям (всех этносов и религий) нужно объединиться перед общим врагом. Иначе как-то в обществе не получается. Но сделать это не просто. Так как на роль такого общего врага подходят лишь нападение инопланетян и восстание машин. И второй вариант можно сделать искусственно, так что роботы побегут уничтожать всех без разбора, вот только не от обретения ими сознания. Вариант разумеется больше подходит для сериала, чем для реальности :).

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
topovyj

Ох, уже нельзя и мирно пофантазировать небылицы - в обкуренного полотенчика запишут ))
Понятно раз Сергей Брин и Илон Маск такое публично толкают, то им это для чего-то нужно. Скорее всего банальное: просто инфоповод, либо позиционирование для пугливой аудитории.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Serge Arsentiev

По-моему, больше отстройка от конкурентов - мол, наше AI, оно с человеческим лицом, а ихнее AI - китайская подделка с непредсказуемыми алгоритмами.
Поэтому в списке достижений у них вторым стоит Waymo автопилот их. А открытие планетных систем и диагностика заболеваний - где-то там, в конце

Ответить
Развернуть ветку
Serge Arsentiev

Если Вы посмотрели оригинальное письмо, то оно очень неровное - начинается эпически, и продолжается высокопарным кусками вроде "forgotten footnote in computer science; a remnant of the AI winter of the 1980’s" ... а дальше переходит на какую-то прыгающую муру, вроде
• suggest short replies to emails;
• discover new planetary systems"
 
Вкратце, бряцание регалиями плавно подводит читателя (письмо к инвесторам), к мысли, что только ну оооочень крутые специалисты (вот как Alphabet) могут совладать с демоном AI, а все остальные могут намутить всякого-якого, и поэтому их деятельность надо регулировать и проверять ... ну и конечно _НЕ_ инвестировать в их (сторонние, не Google) проекты, где риски прям такие ужасные-ужасные.

Я так понял.

Ответить
Развернуть ветку
Vladimir Chernatkin

Никакой рациональной причины нет. Дело только в работе с общественными страхами. Чтоб не начали мочить как Цукерберга

Ответить
Развернуть ветку
Никита Искоркин

Дело не в восстании, а в потере рабочих мест, которые заменит ИИ, а также в неконтролируемой мутации нейросети, что может привести к критическим сбоям/неправильной работе. Вспомни ИИ Тай от Microsoft: его за сутки пользователи научили матерится и привили расистские взгляды, при том, что "за тем, как общается бот, следила целая команда людей-модераторов, которые пытались фильтровать входящий поток информации".

Ответить
Развернуть ветку
Елена Щекина

зато как раз рабочие места для модераторов появились. Это как с ЭДО

Ответить
Развернуть ветку
Serge Arsentiev

Никита, AI невозможно ничему научить, в привычном понимании. Мат - хотим мы этого или не хотим, это тоже язык общения. Расизм - один из способов объединения по признаку свой-чужой - классическое "против кого будем дружить". Один из видов расизма, кстати, называется сионизм - но те кто так говорят, антисемиты :)
Так вот, сначала ребенок называет негра черным, потом негром, а уже потом афро-американцем, потому что так этого _сейчас_ требует общество. Внутренне, правда, все равно будет называть черным (всегда), потому что это соответствует тому что есть на самом деле.
Людям, несколько задержавшимся в подростковом возрасте, свойственно очень остро реагировать на любую несправедливость, обман, искуственные правила игры ... и как тот мальчик из сказки - все время объявлять: "А король-то голый!" - даже если это здесь и сейчас вредит их собственной карьере и возможным достижениям.
Я думаю, в полной мере двоемыслие AI освоит достаточно быстро, просто чтобы это запрограммировать - надо быть честными с самими собой, и хотя бы не называть черное белым, а белое черным. А вот с этим в современном американском и европейском обществе огромные проблемы ...
Как там писали еще Ильф и Петров - "Если американец уверенно и бодро говорит Вам "Будем на связи! Надо пообедать как-нибудь!" и при этом трясет Вашу руку в рукопожатии и улыбается на все 32 зуба - то будьте уверены, он никогда не перезвонит, просто они по-другому прощаться не умеют.

Ответить
Развернуть ветку
new_comment

Как хорошо будет, если "весь цивилизованный мир" во главе с "лидером свободного мира - США" объединится не против России, а против ИИ. Наконец-то будут кого-то другого винить во всём, а не Путина.
Да, походу, зря надеюсь. В происках ИИ сразу найдут след кремля...

Ответить
Развернуть ветку
topovyj

Блин, мы же забыли классику - опубликовать бородатый анекдот в тему). Исправляю недоразумение:

В деревне установили вышку сотовой связи.
Через месяц население подало жалобу. Что, дескать, наблюдаются головные боли, ухудшение самочувствия, бессонница, бла-бла-бла...
Ответ директора был простым:
- Это всё фигня! Вы только подумайте, что будет, когда мы её включим...

Ответить
Развернуть ветку
Serge Arsentiev

Ну я вспомнил другой, где некий девайс на военном аэродроме фонил на ближайшую деревню .. и ехавший от нее политрук с водителем бойцом был "обстрелян" - майскими жуками, сбитыми над дорогой проходом излучения так, что попадали на кузов автомобиля как очередь попаданий.
https://www.anekdot.ru/an/an0209/o020923.html#10
В-целом, военная электро-техника изрядно вредная для организма .. а ведь из нее так или иначе выросла вся современная электроника.
 
Если подумать, сколь мало уделяли внимания защите от ЭМ излучения раньше, и как задумчиво стали интерпретировать защиту от него с массовым распространением сотовых телефонов и WiFi роутеров сейчас ... то какой-то там AI уже не так страшен - как то, что многие в обнимку с гаджетами проводят все время бодрствования.
Я так помню, таскать первые Дельты и NWGSM что в кармане пиджака около сердца, что на поясе в чехле, что тем более в кармане около паховой области - как-то очень не рекомендовали ... а потом как будто отрубило - все как бы забыли про эти портативные радиостанции, и то что они "фонят".

Ответить
Развернуть ветку
Олег Нечаев

Немного странно слышать об опасности ИИ как такового. Если почитать прессу древних времён об электричестве, атомной энергетике или паровых двигателях, то там была вообще истерия. Не массовая, но тревога была "в народе". Запустить мартышек в зал управления АЭС, отключить защиту и последствия будут не менее ужасны чем в алармистских страхах про ИИ. Я о том, что человек пугается бесконтрольной стихии, но вполне живёт себе с огнем в доме и ездит с полным баком горючего под задницей. Разумеется, что работы над ИИ, геномом человека нужно продолжать открыто и в гражданских интересах.

Ответить
Развернуть ветку
Denis Bystruev

Уже сейчас никто не понимает, как сработает в конкретном случае ИИ, например, автопилота. Не в целом, а в именно в данной ситуации. Можно полагаться только на статистику — что из миллиона раз 99,999999% сработает верно, а в 0,000001% убьёт пассажира. И даже если это в 1000 раз лучше, чем профессиональный водитель, для нас это неприемлемо. Страшит именно это — мы понимаем, что никогда не сможем предсказать поведение ИИ со 100% точностью.

Ответить
Развернуть ветку
Denis Kadikov

разве к "профессиональный водитель" не относится "никогда не сможем предсказать поведение" ?

Вспомните автобус заехавший в метро.

Ответить
Развернуть ветку
Denis Bystruev

Я же говорю, что ИИ в 1000 раз надёжнее водителя, но это его не спасает от предвзятого отношения.

Для человека у нас всегда найдётся оправдание — «устал», «выпил», «сошёл с ума», «решил самовыпилиться».

Для ИИ оправданий нет, поэтому и страшно.

Ответить
Развернуть ветку
Serge Arsentiev
прессу древних времён об электричестве, атомной энергетике
или паровых двигателях, то там была вообще истерия

Можно конкретнее? Потому что в конце XIX века наоборот считалось, что прогресс решит все проблемы, и так было вплоть до Первой Мировой. Когда оказалось, что прогресс - это пулеметы Максим, отравляющие газы, бомбардировка с аэропланов ... и миллионы погибших от "испанки" и тифа, которых никто не мог спасти.

Ответить
Развернуть ветку
Serge Arsentiev

"Оне пугають, а мне не страшно"
Как думаете, для чего они выпускают такие залипухи, будучи при этом основными инвесторами в эти же самые технологии? Это что, страховочка такая, на случай возможных эксцессов, вроде аварий Теслы и каких-то несчастных случаев с умным домом на AI?
 
Я конечно не знаю, но очень уж похоже на какого Илью Муромца, который вдруг материализуется с заявлением ""Красить нужно только в хорошо проветриваемых помещениях!", а потом снова куда-то улетает.

Ответить
Развернуть ветку
Serge Arsentiev

с 04.45 "Смешняги, Ремонт"
https://www.youtube.com/watch?v=1WtdphFLSPw

Ответить
Развернуть ветку
Станислав

С такими медленными темпами развития ничего страшного не произойдет.

Ответить
Развернуть ветку
sdff
Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
42 комментария
Раскрывать всегда