Сооснователь Google Сергей Брин поделился опасениями по поводу искусственного интеллекта Статьи редакции
Брин переживает о безопасности людей, которые столкнутся с «умными» машинами.
Сооснователь Google Сергей Брин предупредил об угрозе технологий ИИ в ежегодном письме от основателей Alphabet. Письмо опубликовано на сайте компании.
Брин рассказал, что Alphabet использует ИИ для работы домашнего помощника Google Home, переводчика, видеосервиса YouTube и для других целей. Однако подобные разработки приводят к новым обязанностям и вопросам, которые предстоит решать компании в ближайшее время, пояснил он.
Брин также перечислил инициативы в сфере ИИ, в которых участвует Alphabet для исследования этих вопросов: Bringing Precision to the AI Safety Discussion, DeepMind Ethics & Society, PAIR: People+AI Research Initiative, Partnership on AI.
В июле 2017 года глава Tesla Илон Маск назвал искусственный интеллект «основной угрозой» для человечества. В выступлении перед губернаторами США Маск предупредил, что искусственный интеллект может стать причиной роста безработицы и войны.
Я не боюсь, в моей стране есть РКН.
Во-во! Это практически оплот сопротивления во главе с Джоном Жаровым
Первый канал: "ФСБ сообщили, что террористы использовали кластер из 40 000 видеокарт NVIDIA для вычисления оптимального места для терракта".
Антон?
Фиона
Осёл !
Robot Uprising!
Комментарий недоступен
ты готов, что тебя заменит машина?
Комментарий недоступен
+
А именно обслуживанием, программированием, и продажей самой машины и продукта, который она производит.
Комментарий недоступен
Комментарий недоступен
Вот ИИ пусть и займётся решением этой проблемы. Он же умнее. Чего с нас - глупых человечков спрашивать?...
Ну да, и рано или поздно машина "включит Сталина" - нет человека - нет проблем)
Большинство тех, кто опасается ИИ, сходятся во мнении, что:
1. ИИ намного превзойдёт человека;
2. ИИ захочет его уничтожить.
Разве из этого не следует, что уничтожение людей - это наиболее рациональный путь развития?
Если это так, - тогда чего обижаться? Но возможен вариант, что ИИ найдёт какой-то иной путь развития. Ведь это люди считают, что разум захочет их уничтожить. А более умный ИИ вполне может решить по-другому.
Вообще, все эти рассуждения напоминают мне опасения древних обезьян о том, что их вытеснят хомо сапиенсы.
Ну, ресурсов у ИИ побольше, так что, вероятно, ИИ должно превзойти человека. Да и вообще, машины уже превзошли человека, в той или иной степени. А на счет уничтожения, надо же чего-то бояться, вполне разумно, вроде.
Во-во, машина задумывалась как помощник человеку, но что-то пошло не так и сейчас человек большую часть времени обслуживает машину, чем пользуется ей
Легко сказать.
Комментарий недоступен
или ничем, что тоже неплохо
Комментарий недоступен
Странно что люди которые вроде понимают что скрывается под пиарным словосочетанием ИИ - вдруг стали дружно нести речи об опасности (которой там и близко конечно нету, все специалисты это знают). Скоро мы узнаем что за этим скрывается. Логичных вариантов много.
Самая веселая и нелогичная теория такая:
Людям (всех этносов и религий) нужно объединиться перед общим врагом. Иначе как-то в обществе не получается. Но сделать это не просто. Так как на роль такого общего врага подходят лишь нападение инопланетян и восстание машин. И второй вариант можно сделать искусственно, так что роботы побегут уничтожать всех без разбора, вот только не от обретения ими сознания. Вариант разумеется больше подходит для сериала, чем для реальности :).
Комментарий недоступен
Ох, уже нельзя и мирно пофантазировать небылицы - в обкуренного полотенчика запишут ))
Понятно раз Сергей Брин и Илон Маск такое публично толкают, то им это для чего-то нужно. Скорее всего банальное: просто инфоповод, либо позиционирование для пугливой аудитории.
Комментарий недоступен
По-моему, больше отстройка от конкурентов - мол, наше AI, оно с человеческим лицом, а ихнее AI - китайская подделка с непредсказуемыми алгоритмами.
Поэтому в списке достижений у них вторым стоит Waymo автопилот их. А открытие планетных систем и диагностика заболеваний - где-то там, в конце
Если Вы посмотрели оригинальное письмо, то оно очень неровное - начинается эпически, и продолжается высокопарным кусками вроде "forgotten footnote in computer science; a remnant of the AI winter of the 1980’s" ... а дальше переходит на какую-то прыгающую муру, вроде
• suggest short replies to emails;
• discover new planetary systems"
Вкратце, бряцание регалиями плавно подводит читателя (письмо к инвесторам), к мысли, что только ну оооочень крутые специалисты (вот как Alphabet) могут совладать с демоном AI, а все остальные могут намутить всякого-якого, и поэтому их деятельность надо регулировать и проверять ... ну и конечно _НЕ_ инвестировать в их (сторонние, не Google) проекты, где риски прям такие ужасные-ужасные.
Я так понял.
Никакой рациональной причины нет. Дело только в работе с общественными страхами. Чтоб не начали мочить как Цукерберга
Дело не в восстании, а в потере рабочих мест, которые заменит ИИ, а также в неконтролируемой мутации нейросети, что может привести к критическим сбоям/неправильной работе. Вспомни ИИ Тай от Microsoft: его за сутки пользователи научили матерится и привили расистские взгляды, при том, что "за тем, как общается бот, следила целая команда людей-модераторов, которые пытались фильтровать входящий поток информации".
зато как раз рабочие места для модераторов появились. Это как с ЭДО
Никита, AI невозможно ничему научить, в привычном понимании. Мат - хотим мы этого или не хотим, это тоже язык общения. Расизм - один из способов объединения по признаку свой-чужой - классическое "против кого будем дружить". Один из видов расизма, кстати, называется сионизм - но те кто так говорят, антисемиты :)
Так вот, сначала ребенок называет негра черным, потом негром, а уже потом афро-американцем, потому что так этого _сейчас_ требует общество. Внутренне, правда, все равно будет называть черным (всегда), потому что это соответствует тому что есть на самом деле.
Людям, несколько задержавшимся в подростковом возрасте, свойственно очень остро реагировать на любую несправедливость, обман, искуственные правила игры ... и как тот мальчик из сказки - все время объявлять: "А король-то голый!" - даже если это здесь и сейчас вредит их собственной карьере и возможным достижениям.
Я думаю, в полной мере двоемыслие AI освоит достаточно быстро, просто чтобы это запрограммировать - надо быть честными с самими собой, и хотя бы не называть черное белым, а белое черным. А вот с этим в современном американском и европейском обществе огромные проблемы ...
Как там писали еще Ильф и Петров - "Если американец уверенно и бодро говорит Вам "Будем на связи! Надо пообедать как-нибудь!" и при этом трясет Вашу руку в рукопожатии и улыбается на все 32 зуба - то будьте уверены, он никогда не перезвонит, просто они по-другому прощаться не умеют.
Как хорошо будет, если "весь цивилизованный мир" во главе с "лидером свободного мира - США" объединится не против России, а против ИИ. Наконец-то будут кого-то другого винить во всём, а не Путина.
Да, походу, зря надеюсь. В происках ИИ сразу найдут след кремля...
Блин, мы же забыли классику - опубликовать бородатый анекдот в тему). Исправляю недоразумение:
В деревне установили вышку сотовой связи.
Через месяц население подало жалобу. Что, дескать, наблюдаются головные боли, ухудшение самочувствия, бессонница, бла-бла-бла...
Ответ директора был простым:
- Это всё фигня! Вы только подумайте, что будет, когда мы её включим...
Ну я вспомнил другой, где некий девайс на военном аэродроме фонил на ближайшую деревню .. и ехавший от нее политрук с водителем бойцом был "обстрелян" - майскими жуками, сбитыми над дорогой проходом излучения так, что попадали на кузов автомобиля как очередь попаданий.
https://www.anekdot.ru/an/an0209/o020923.html#10
В-целом, военная электро-техника изрядно вредная для организма .. а ведь из нее так или иначе выросла вся современная электроника.
Если подумать, сколь мало уделяли внимания защите от ЭМ излучения раньше, и как задумчиво стали интерпретировать защиту от него с массовым распространением сотовых телефонов и WiFi роутеров сейчас ... то какой-то там AI уже не так страшен - как то, что многие в обнимку с гаджетами проводят все время бодрствования.
Я так помню, таскать первые Дельты и NWGSM что в кармане пиджака около сердца, что на поясе в чехле, что тем более в кармане около паховой области - как-то очень не рекомендовали ... а потом как будто отрубило - все как бы забыли про эти портативные радиостанции, и то что они "фонят".
Немного странно слышать об опасности ИИ как такового. Если почитать прессу древних времён об электричестве, атомной энергетике или паровых двигателях, то там была вообще истерия. Не массовая, но тревога была "в народе". Запустить мартышек в зал управления АЭС, отключить защиту и последствия будут не менее ужасны чем в алармистских страхах про ИИ. Я о том, что человек пугается бесконтрольной стихии, но вполне живёт себе с огнем в доме и ездит с полным баком горючего под задницей. Разумеется, что работы над ИИ, геномом человека нужно продолжать открыто и в гражданских интересах.
Уже сейчас никто не понимает, как сработает в конкретном случае ИИ, например, автопилота. Не в целом, а в именно в данной ситуации. Можно полагаться только на статистику — что из миллиона раз 99,999999% сработает верно, а в 0,000001% убьёт пассажира. И даже если это в 1000 раз лучше, чем профессиональный водитель, для нас это неприемлемо. Страшит именно это — мы понимаем, что никогда не сможем предсказать поведение ИИ со 100% точностью.
разве к "профессиональный водитель" не относится "никогда не сможем предсказать поведение" ?
Вспомните автобус заехавший в метро.
Я же говорю, что ИИ в 1000 раз надёжнее водителя, но это его не спасает от предвзятого отношения.
Для человека у нас всегда найдётся оправдание — «устал», «выпил», «сошёл с ума», «решил самовыпилиться».
Для ИИ оправданий нет, поэтому и страшно.
или паровых двигателях, то там была вообще истерия
Можно конкретнее? Потому что в конце XIX века наоборот считалось, что прогресс решит все проблемы, и так было вплоть до Первой Мировой. Когда оказалось, что прогресс - это пулеметы Максим, отравляющие газы, бомбардировка с аэропланов ... и миллионы погибших от "испанки" и тифа, которых никто не мог спасти.
"Оне пугають, а мне не страшно"
Как думаете, для чего они выпускают такие залипухи, будучи при этом основными инвесторами в эти же самые технологии? Это что, страховочка такая, на случай возможных эксцессов, вроде аварий Теслы и каких-то несчастных случаев с умным домом на AI?
Я конечно не знаю, но очень уж похоже на какого Илью Муромца, который вдруг материализуется с заявлением ""Красить нужно только в хорошо проветриваемых помещениях!", а потом снова куда-то улетает.
с 04.45 "Смешняги, Ремонт"
https://www.youtube.com/watch?v=1WtdphFLSPw
С такими медленными темпами развития ничего страшного не произойдет.
https://interpreted.d3.ru/perevod-revoliutsiia-iskusstvennogo-intellekta-684922/?sorting=rating
Комментарий удален модератором