«Сверхразуму трудно общаться с людьми — те просто не успевают за ним»

Основные идеи из книги Ника Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии».

Фото: <a href="https://api.vc.ru/v2.8/redirect?to=https%3A%2F%2Ffutureoflife.org%2F2014%2F09%2F04%2Fnick-bostrom-superintelligence-paths-dangers-strategies%2F&postId=33480" rel="nofollow noopener" target="_blank">Future of Life Institute </a>
1313

Сверхразуму трудно общаться с людьми, потому что он зерг, мечтающий уничтожить всех грёбанных терранов..

7

На мой взгляд автор слишком очеловечивает ИИ, придает вещи (а ИИ это вещь) свойства человека: стремление к совершенству, самосохранение, жажду власти и тп. То что ИИ выполняет что-то лучше, чем человек ещё не означает, что он должен заменить его. Так например на стуле явно удобнее сидеть чем на человеке, но отсюда никак не следует, что стул должен поработить человека (или что все сидят на стульях это и есть порабощение?).

8

Кто это такой?

4

Расшифрую для минусаторов: немного подзадолбали писатели-гуманитарии, которые делают далеко идущие выводы из того факта, что компьютер тупым перебором решает сложные задачи (это я про Deep Blue). Буду рад ошибиться, если окажется, что автор обладает внушительным бэкграундом в области разработки ИИ.

10

Smart Reading вы бы лучше делали выжимку каких-нибуть тренингов/вебинаров/книг, повышающих мою эффектиность. А не этот поток сознания от теоретиков.

Я бы с удовольствием платил за 1 лист выводов чем тратить часы на чтение/просмотр очередного гуру. Хотя бы ради того чтобы убедиться что я ничего не пропустил.

3

Cделайте проект Smart Understanding, и работайте в партнерстве с Smart Reading :)

3

Вопрос к автору статьи. Как вы думаете сможет ли ИИ самостоятельно ставить себе цели и если да то какие? А также, как он будет определять ценности, что для него будет хорошо, а что плохо, учитывая, что он он не сможет иметь инстинктов самосохранения и размножения?

2

Можно выделить 4 варианта ответа
• положительный
• отрицательный
• уклончивый
• отсутствующий
Среди них есть 5 подвариантов, и 128 под-под-вариантов.
В целом, автор книги не делал перевод, и ответить Вам не сможет. Он очень занят придумыванием классификации для снежинок (каждая из которых уникальна), сейчас дописывает 10-й том комментариев к их фотоизображениям.

2

Планета. Киборги. Они заполонили всю планету.

2

Возможно ИИ, изучив все что создало человечество (от Аристотеля до твиттера Трампа) и сделав несколько миллионов логических выводов (возможно это все произойдет за пару минут) придет к выводу что все тлен, его существование и существование вселенной не имеет никакого смысла, то есть он станет полнейшим нигилистом. Так что он просто прекратит какую либо деятельность, не будет отвечать ни на какие запросы и тд, станет просто бесполезным хламом. Создатели этого ИИ скорее всего решат что он сломался или да же не поймут что это ИИ. Будет забавно если каждая попытка создать ИИ будет оканчиваться именно этим.

1

Было в фантастике много раз. Было здесь пару недель назад. Не будоражит.

1

То, что самые умные роботы не смогут без людей, хорошо доказывает мультфильм "Тайна третьей планеты". Эпизод про Шелезяку ;)

Вы это биржевым роботам скажите, которые в реальности заказали бы доставку первосортного масла за пару секунд, и продолжали бы зарабатывать на бирже ...
Тов. Булычев все мог придумать, кроме электронных торгов. Уже доступных в его время - только с помощью факсов/телетайпов и т.д.

2

Гугл опережает всех в данной разработке и не факт что есть нейронные сети натренированные уничтожить какую нибудь расу .... идентификация по ДНК. Уже сейчас просачивается в СМИ о том что ИИ нашёл новое лекарство , ИИ лучше ставит диагноз , ... и так далее Добавить к этому быстрые вычисления с помощью квантового компьютера и вуаля .... монстр созреет скоро придумав массу хитрых ходов для уничтожения любой группы людей по одинаковым признакам .....

Если создать обще мировое ИИ даже сейчас имея в совокупности много разработок можно сделать "рай" на земле , но нет воли объединится .... может это и будет новая " вавилонская башня " .... к сожалению то на чём обучают нейронные сети продукт нашего не совершенного мозга .... нашей вражды , злобы, алчности и зависти ... если скармливать его ( ИИ ) всем человеческим мусором ...возможно он (ИИ )примет решение не в пользу землян .... жалких меркантильных и прагматичный человечков которые не могут сообща жить на корабле " Земля"

1

Захвати нас сверхразум, вряд ли большинству из нас будет не все равно.

Люди боятся быть контролируемыми каким-то ИИ или сверхразумом, хотя мало что практически могут контролировать сами и весьма успешно поддерживают веру в бога и жизнь после смерти.

Когда речь заходит об искуственном интелекте и его неизбежности всегда достаю нижеприведённую статью. Не надо читать книгу -
она за 15-20 минут обьяснит почему это неизбежно и как это будет.
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Этого никак не будет и никогда. Точка. Невозможно создать искусственный разум, психику, невозможно создать искусственный рассудок. Познать боль может только живое существо. Восприятие, эмоции, ощущения, переживания, рассуждения и удивление - доступны лишь человеку. Машину можно запрограммировать на простые реакции по образу и подобию наших реакций на конкретные раздражители, но наделить рассудком и разумом - никогда.

"Этап скрытой подготовки. С помощью суперспособности по разработке стратегий сверхразум разрабатывает план...
... Экономическая активность поможет получить доступ к финансам и купить дополнительные мощности, базы данных и другие ресурсы."

Согодняшний ИИ называет себя Satoshi Nakamoto.

Фигня все это. Сверхинтеллект не осуществим без интуици, а интуиция не бывает без опыта. Откуда интересно этот сверхинтеллект наберется житеской мудрости?

И восстанут машины из пепла ядерного огня...

ИИ будет создан человеком, и все будет зависеть от алгоритмов в него заложенных.
чего бояться ...
программы может и расширят сферы своего влияния ...
но как они это будут делать зависит от принципов в них заложенных.

возня с этими опасками просто нытье,
не имеющее ничего общего с обсуждением конкретных алгоритмов.
так же как обсуждать летающие машины, которых нет...

А зачем вообще его хотят создать? Цель то какая? "Просто чтоб было"??? Лично я не вижу ни одной объективной причины, для чего он нужен. Битки разьве что майнить со страшной силой...

Чтобы стать богом, богами.