Сооснователь Google Сергей Брин поделился опасениями по поводу искусственного интеллекта

Брин переживает о безопасности людей, которые столкнутся с «умными» машинами.

2323

Я не боюсь, в моей стране есть РКН.

69

Во-во! Это практически оплот сопротивления во главе с Джоном Жаровым

11

Первый канал: "ФСБ сообщили, что террористы использовали кластер из 40 000 видеокарт NVIDIA для вычисления оптимального места для терракта".

1

Антон?

1

Комментарий недоступен

21

ты готов, что тебя заменит машина?

2

Комментарий недоступен

2

Странно что люди которые вроде понимают что скрывается под пиарным словосочетанием ИИ - вдруг стали дружно нести речи об опасности (которой там и близко конечно нету, все специалисты это знают). Скоро мы узнаем что за этим скрывается. Логичных вариантов много.
Самая веселая и нелогичная теория такая:
Людям (всех этносов и религий) нужно объединиться перед общим врагом. Иначе как-то в обществе не получается. Но сделать это не просто. Так как на роль такого общего врага подходят лишь нападение инопланетян и восстание машин. И второй вариант можно сделать искусственно, так что роботы побегут уничтожать всех без разбора, вот только не от обретения ими сознания. Вариант разумеется больше подходит для сериала, чем для реальности :).

12

Комментарий недоступен

7

Если Вы посмотрели оригинальное письмо, то оно очень неровное - начинается эпически, и продолжается высокопарным кусками вроде "forgotten footnote in computer science; a remnant of the AI winter of the 1980’s" ... а дальше переходит на какую-то прыгающую муру, вроде
• suggest short replies to emails;
• discover new planetary systems"
 
Вкратце, бряцание регалиями плавно подводит читателя (письмо к инвесторам), к мысли, что только ну оооочень крутые специалисты (вот как Alphabet) могут совладать с демоном AI, а все остальные могут намутить всякого-якого, и поэтому их деятельность надо регулировать и проверять ... ну и конечно _НЕ_ инвестировать в их (сторонние, не Google) проекты, где риски прям такие ужасные-ужасные.

Я так понял.

7

Никакой рациональной причины нет. Дело только в работе с общественными страхами. Чтоб не начали мочить как Цукерберга

Дело не в восстании, а в потере рабочих мест, которые заменит ИИ, а также в неконтролируемой мутации нейросети, что может привести к критическим сбоям/неправильной работе. Вспомни ИИ Тай от Microsoft: его за сутки пользователи научили матерится и привили расистские взгляды, при том, что "за тем, как общается бот, следила целая команда людей-модераторов, которые пытались фильтровать входящий поток информации".

Как хорошо будет, если "весь цивилизованный мир" во главе с "лидером свободного мира - США" объединится не против России, а против ИИ. Наконец-то будут кого-то другого винить во всём, а не Путина.
Да, походу, зря надеюсь. В происках ИИ сразу найдут след кремля...

Блин, мы же забыли классику - опубликовать бородатый анекдот в тему). Исправляю недоразумение:

В деревне установили вышку сотовой связи.
Через месяц население подало жалобу. Что, дескать, наблюдаются головные боли, ухудшение самочувствия, бессонница, бла-бла-бла...
Ответ директора был простым:
- Это всё фигня! Вы только подумайте, что будет, когда мы её включим...

14

Ну я вспомнил другой, где некий девайс на военном аэродроме фонил на ближайшую деревню .. и ехавший от нее политрук с водителем бойцом был "обстрелян" - майскими жуками, сбитыми над дорогой проходом излучения так, что попадали на кузов автомобиля как очередь попаданий.
https://www.anekdot.ru/an/an0209/o020923.html#10
В-целом, военная электро-техника изрядно вредная для организма .. а ведь из нее так или иначе выросла вся современная электроника.
 
Если подумать, сколь мало уделяли внимания защите от ЭМ излучения раньше, и как задумчиво стали интерпретировать защиту от него с массовым распространением сотовых телефонов и WiFi роутеров сейчас ... то какой-то там AI уже не так страшен - как то, что многие в обнимку с гаджетами проводят все время бодрствования.
Я так помню, таскать первые Дельты и NWGSM что в кармане пиджака около сердца, что на поясе в чехле, что тем более в кармане около паховой области - как-то очень не рекомендовали ... а потом как будто отрубило - все как бы забыли про эти портативные радиостанции, и то что они "фонят".

1

Немного странно слышать об опасности ИИ как такового. Если почитать прессу древних времён об электричестве, атомной энергетике или паровых двигателях, то там была вообще истерия. Не массовая, но тревога была "в народе". Запустить мартышек в зал управления АЭС, отключить защиту и последствия будут не менее ужасны чем в алармистских страхах про ИИ. Я о том, что человек пугается бесконтрольной стихии, но вполне живёт себе с огнем в доме и ездит с полным баком горючего под задницей. Разумеется, что работы над ИИ, геномом человека нужно продолжать открыто и в гражданских интересах.

2

Уже сейчас никто не понимает, как сработает в конкретном случае ИИ, например, автопилота. Не в целом, а в именно в данной ситуации. Можно полагаться только на статистику — что из миллиона раз 99,999999% сработает верно, а в 0,000001% убьёт пассажира. И даже если это в 1000 раз лучше, чем профессиональный водитель, для нас это неприемлемо. Страшит именно это — мы понимаем, что никогда не сможем предсказать поведение ИИ со 100% точностью.

прессу древних времён об электричестве, атомной энергетике или паровых двигателях, то там была вообще истерияМожно конкретнее? Потому что в конце XIX века наоборот считалось, что прогресс решит все проблемы, и так было вплоть до Первой Мировой. Когда оказалось, что прогресс - это пулеметы Максим, отравляющие газы, бомбардировка с аэропланов ... и миллионы погибших от "испанки" и тифа, которых никто не мог спасти.

"Оне пугають, а мне не страшно"
Как думаете, для чего они выпускают такие залипухи, будучи при этом основными инвесторами в эти же самые технологии? Это что, страховочка такая, на случай возможных эксцессов, вроде аварий Теслы и каких-то несчастных случаев с умным домом на AI?
 
Я конечно не знаю, но очень уж похоже на какого Илью Муромца, который вдруг материализуется с заявлением ""Красить нужно только в хорошо проветриваемых помещениях!", а потом снова куда-то улетает.

1

С такими медленными темпами развития ничего страшного не произойдет.