Сооснователь Google Сергей Брин поделился опасениями по поводу искусственного интеллекта

Брин переживает о безопасности людей, которые столкнутся с «умными» машинами.

В закладки

Сооснователь Google Сергей Брин предупредил об угрозе технологий ИИ в ежегодном письме от основателей Alphabet. Письмо опубликовано на сайте компании.

Брин рассказал, что Alphabet использует ИИ для работы домашнего помощника Google Home, переводчика, видеосервиса YouTube и для других целей. Однако подобные разработки приводят к новым обязанностям и вопросам, которые предстоит решать компании в ближайшее время, пояснил он.

Как эти технологии повлияют на занятость в разных секторах? Как мы поймём, что происходит у них «под капотом»? Могут ли они манипулировать людьми? Они безопасны?

Брин также перечислил инициативы в сфере ИИ, в которых участвует Alphabet для исследования этих вопросов: Bringing Precision to the AI Safety Discussion, DeepMind Ethics & Society, PAIR: People+AI Research Initiative, Partnership on AI.

В июле 2017 года глава Tesla Илон Маск назвал искусственный интеллект «основной угрозой» для человечества. В выступлении перед губернаторами США Маск предупредил, что искусственный интеллект может стать причиной роста безработицы и войны.

#новость #будущее

{ "author_name": "Лера Михайлова", "author_type": "editor", "tags": ["\u043d\u043e\u0432\u043e\u0441\u0442\u044c","\u043d\u043e\u0432\u043e\u0441\u0442\u0438","\u0431\u0443\u0434\u0443\u0449\u0435\u0435"], "comments": 45, "likes": 37, "favorites": 1, "is_advertisement": false, "subsite_label": "future", "id": 37255, "is_wide": false }
00
дни
00
часы
00
мин
00
сек
(function(){ var banner = document.querySelector('.teaserSberbank'); var isAdsDisabled = document.querySelector('noad'); if (!isAdsDisabled){ var countdownTimer = null; var timerItem = document.querySelectorAll('[data-sber-timer]'); var seconds = parseInt('15388' + '59599') - now(); function now(){ return Math.round(new Date().getTime()/1000.0); } function timer() { var days = Math.floor(seconds / 24 / 60 / 60); var hoursLeft = Math.floor((seconds) - (days * 86400)); var hours = Math.floor(hoursLeft / 3600); var minutesLeft = Math.floor((hoursLeft) - (hours * 3600)); var minutes = Math.floor(minutesLeft / 60); var remainingSeconds = seconds % 60; if (days < 10) days = '0' + days; if (hours < 10) hours = '0' + hours; if (minutes < 10) minutes = '0' + minutes; if (remainingSeconds < 10) remainingSeconds = '0' + remainingSeconds; if (seconds <= 0) { clearInterval(countdownTimer); } else { timerItem[0].textContent = days; timerItem[1].textContent = hours; timerItem[2].textContent = minutes; timerItem[3].textContent = remainingSeconds; seconds -= 1; } } timer(); countdownTimer = setInterval(timer, 1000); } else { banner.style.display = 'none'; } })();
{ "id": 37255, "author_id": 78969, "diff_limit": 1000, "urls": {"diff":"\/comments\/37255\/get","add":"\/comments\/37255\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/37255"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199118 }

45 комментариев 45 комм.

Популярные

По порядку

Написать комментарий...
69

Я не боюсь, в моей стране есть РКН.

Ответить
11

Во-во! Это практически оплот сопротивления во главе с Джоном Жаровым

Ответить
0

Первый канал: "ФСБ сообщили, что террористы использовали кластер из 40 000 видеокарт NVIDIA для вычисления оптимального места для терракта".

Ответить
31
Ответить
1

Антон?

Ответить
1

Осёл !

Ответить
0

Robot Uprising!

Ответить
21

вся история цивилизации это замена человека механизмами с последующей автоматизацией работы этих механизмов, че теперь вдруг не так стало

Ответить
2

ты готов, что тебя заменит машина?

Ответить
4

займусь чем-нито другим

Ответить
8

+
А именно обслуживанием, программированием, и продажей самой машины и продукта, который она производит.

Ответить
17

да рынок труда может так сильно измениться, Что профессий станет больше чем сейчас

чем больше сущностей тем больше сущностей

Ответить
3

ИИ на то и рассчитан чтобы самопрограмироваться и выполнять действия без особого вмешательства человека. А количество обслуживающего персонала сократиться на n-ное количество человек и останется лишь малое число избранных.
То что будет впереди было описано уже давным давно в умных книгах, и ничем хорошим это не обернется по началу, придется решать этот вопрос уже во время возникновения проблемы.

Ответить
0

Вот ИИ пусть и займётся решением этой проблемы. Он же умнее. Чего с нас - глупых человечков спрашивать?...

Ответить
0

Ну да, и рано или поздно машина "включит Сталина" - нет человека - нет проблем)

Ответить
0

Большинство тех, кто опасается ИИ, сходятся во мнении, что:
1. ИИ намного превзойдёт человека;
2. ИИ захочет его уничтожить.
Разве из этого не следует, что уничтожение людей - это наиболее рациональный путь развития?
Если это так, - тогда чего обижаться? Но возможен вариант, что ИИ найдёт какой-то иной путь развития. Ведь это люди считают, что разум захочет их уничтожить. А более умный ИИ вполне может решить по-другому.
Вообще, все эти рассуждения напоминают мне опасения древних обезьян о том, что их вытеснят хомо сапиенсы.

Ответить
0

Ну, ресурсов у ИИ побольше, так что, вероятно, ИИ должно превзойти человека. Да и вообще, машины уже превзошли человека, в той или иной степени. А на счет уничтожения, надо же чего-то бояться, вполне разумно, вроде.

Ответить
0

Во-во, машина задумывалась как помощник человеку, но что-то пошло не так и сейчас человек большую часть времени обслуживает машину, чем пользуется ей

Ответить
0

Легко сказать.

Ответить
1

моя твоя нипанимать

Ответить
0

или ничем, что тоже неплохо

Ответить
2

И создание кучи профессий для людей, которые эти механизмы обслуживают. Никуда ничего не пропадает.

Ответить
11

Странно что люди которые вроде понимают что скрывается под пиарным словосочетанием ИИ - вдруг стали дружно нести речи об опасности (которой там и близко конечно нету, все специалисты это знают). Скоро мы узнаем что за этим скрывается. Логичных вариантов много.
Самая веселая и нелогичная теория такая:
Людям (всех этносов и религий) нужно объединиться перед общим врагом. Иначе как-то в обществе не получается. Но сделать это не просто. Так как на роль такого общего врага подходят лишь нападение инопланетян и восстание машин. И второй вариант можно сделать искусственно, так что роботы побегут уничтожать всех без разбора, вот только не от обретения ими сознания. Вариант разумеется больше подходит для сериала, чем для реальности :).

Ответить
5

Ох, уже нельзя и мирно пофантазировать небылицы - в обкуренного полотенчика запишут ))
Понятно раз Сергей Брин и Илон Маск такое публично толкают, то им это для чего-то нужно. Скорее всего банальное: просто инфоповод, либо позиционирование для пугливой аудитории.

Ответить
3

да может просто монополизировать хотят разработки в этой области, конечно, надо смотреть кому это выгодно и в чем выгода, но мировой заговор эт перебор

Ответить
3

По-моему, больше отстройка от конкурентов - мол, наше AI, оно с человеческим лицом, а ихнее AI - китайская подделка с непредсказуемыми алгоритмами.
Поэтому в списке достижений у них вторым стоит Waymo автопилот их. А открытие планетных систем и диагностика заболеваний - где-то там, в конце

Ответить
7

Если Вы посмотрели оригинальное письмо, то оно очень неровное - начинается эпически, и продолжается высокопарным кусками вроде "forgotten footnote in computer science; a remnant of the AI winter of the 1980’s" ... а дальше переходит на какую-то прыгающую муру, вроде
• suggest short replies to emails;
• discover new planetary systems"
 
Вкратце, бряцание регалиями плавно подводит читателя (письмо к инвесторам), к мысли, что только ну оооочень крутые специалисты (вот как Alphabet) могут совладать с демоном AI, а все остальные могут намутить всякого-якого, и поэтому их деятельность надо регулировать и проверять ... ну и конечно _НЕ_ инвестировать в их (сторонние, не Google) проекты, где риски прям такие ужасные-ужасные.

Я так понял.

Ответить
0

Никакой рациональной причины нет. Дело только в работе с общественными страхами. Чтоб не начали мочить как Цукерберга

Ответить
0

Дело не в восстании, а в потере рабочих мест, которые заменит ИИ, а также в неконтролируемой мутации нейросети, что может привести к критическим сбоям/неправильной работе. Вспомни ИИ Тай от Microsoft: его за сутки пользователи научили матерится и привили расистские взгляды, при том, что "за тем, как общается бот, следила целая команда людей-модераторов, которые пытались фильтровать входящий поток информации".

Ответить
0

зато как раз рабочие места для модераторов появились. Это как с ЭДО

Ответить
0

Никита, AI невозможно ничему научить, в привычном понимании. Мат - хотим мы этого или не хотим, это тоже язык общения. Расизм - один из способов объединения по признаку свой-чужой - классическое "против кого будем дружить". Один из видов расизма, кстати, называется сионизм - но те кто так говорят, антисемиты :)
Так вот, сначала ребенок называет негра черным, потом негром, а уже потом афро-американцем, потому что так этого _сейчас_ требует общество. Внутренне, правда, все равно будет называть черным (всегда), потому что это соответствует тому что есть на самом деле.
Людям, несколько задержавшимся в подростковом возрасте, свойственно очень остро реагировать на любую несправедливость, обман, искуственные правила игры ... и как тот мальчик из сказки - все время объявлять: "А король-то голый!" - даже если это здесь и сейчас вредит их собственной карьере и возможным достижениям.
Я думаю, в полной мере двоемыслие AI освоит достаточно быстро, просто чтобы это запрограммировать - надо быть честными с самими собой, и хотя бы не называть черное белым, а белое черным. А вот с этим в современном американском и европейском обществе огромные проблемы ...
Как там писали еще Ильф и Петров - "Если американец уверенно и бодро говорит Вам "Будем на связи! Надо пообедать как-нибудь!" и при этом трясет Вашу руку в рукопожатии и улыбается на все 32 зуба - то будьте уверены, он никогда не перезвонит, просто они по-другому прощаться не умеют.

Ответить
–1

Как хорошо будет, если "весь цивилизованный мир" во главе с "лидером свободного мира - США" объединится не против России, а против ИИ. Наконец-то будут кого-то другого винить во всём, а не Путина.
Да, походу, зря надеюсь. В происках ИИ сразу найдут след кремля...

Ответить
14

Блин, мы же забыли классику - опубликовать бородатый анекдот в тему). Исправляю недоразумение:

В деревне установили вышку сотовой связи.
Через месяц население подало жалобу. Что, дескать, наблюдаются головные боли, ухудшение самочувствия, бессонница, бла-бла-бла...
Ответ директора был простым:
- Это всё фигня! Вы только подумайте, что будет, когда мы её включим...

Ответить
1

Ну я вспомнил другой, где некий девайс на военном аэродроме фонил на ближайшую деревню .. и ехавший от нее политрук с водителем бойцом был "обстрелян" - майскими жуками, сбитыми над дорогой проходом излучения так, что попадали на кузов автомобиля как очередь попаданий.
https://www.anekdot.ru/an/an0209/o020923.html#10
В-целом, военная электро-техника изрядно вредная для организма .. а ведь из нее так или иначе выросла вся современная электроника.
 
Если подумать, сколь мало уделяли внимания защите от ЭМ излучения раньше, и как задумчиво стали интерпретировать защиту от него с массовым распространением сотовых телефонов и WiFi роутеров сейчас ... то какой-то там AI уже не так страшен - как то, что многие в обнимку с гаджетами проводят все время бодрствования.
Я так помню, таскать первые Дельты и NWGSM что в кармане пиджака около сердца, что на поясе в чехле, что тем более в кармане около паховой области - как-то очень не рекомендовали ... а потом как будто отрубило - все как бы забыли про эти портативные радиостанции, и то что они "фонят".

Ответить
2

Немного странно слышать об опасности ИИ как такового. Если почитать прессу древних времён об электричестве, атомной энергетике или паровых двигателях, то там была вообще истерия. Не массовая, но тревога была "в народе". Запустить мартышек в зал управления АЭС, отключить защиту и последствия будут не менее ужасны чем в алармистских страхах про ИИ. Я о том, что человек пугается бесконтрольной стихии, но вполне живёт себе с огнем в доме и ездит с полным баком горючего под задницей. Разумеется, что работы над ИИ, геномом человека нужно продолжать открыто и в гражданских интересах.

Ответить
0

Уже сейчас никто не понимает, как сработает в конкретном случае ИИ, например, автопилота. Не в целом, а в именно в данной ситуации. Можно полагаться только на статистику — что из миллиона раз 99,999999% сработает верно, а в 0,000001% убьёт пассажира. И даже если это в 1000 раз лучше, чем профессиональный водитель, для нас это неприемлемо. Страшит именно это — мы понимаем, что никогда не сможем предсказать поведение ИИ со 100% точностью.

Ответить
0

разве к "профессиональный водитель" не относится "никогда не сможем предсказать поведение" ?

Вспомните автобус заехавший в метро.

Ответить
3

Я же говорю, что ИИ в 1000 раз надёжнее водителя, но это его не спасает от предвзятого отношения.

Для человека у нас всегда найдётся оправдание — «устал», «выпил», «сошёл с ума», «решил самовыпилиться».

Для ИИ оправданий нет, поэтому и страшно.

Ответить
0

прессу древних времён об электричестве, атомной энергетике

или паровых двигателях, то там была вообще истерия

Можно конкретнее? Потому что в конце XIX века наоборот считалось, что прогресс решит все проблемы, и так было вплоть до Первой Мировой. Когда оказалось, что прогресс - это пулеметы Максим, отравляющие газы, бомбардировка с аэропланов ... и миллионы погибших от "испанки" и тифа, которых никто не мог спасти.

Ответить
1

"Оне пугають, а мне не страшно"
Как думаете, для чего они выпускают такие залипухи, будучи при этом основными инвесторами в эти же самые технологии? Это что, страховочка такая, на случай возможных эксцессов, вроде аварий Теслы и каких-то несчастных случаев с умным домом на AI?
 
Я конечно не знаю, но очень уж похоже на какого Илью Муромца, который вдруг материализуется с заявлением ""Красить нужно только в хорошо проветриваемых помещениях!", а потом снова куда-то улетает.

Ответить
0

с 04.45 "Смешняги, Ремонт"
https://www.youtube.com/watch?v=1WtdphFLSPw

Ответить
0

С такими медленными темпами развития ничего страшного не произойдет.

Ответить

Комментарий удален

0

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } } ]
Нейронная сеть научилась читать стихи
голосом Пастернака и смотреть в окно на осень
Подписаться на push-уведомления