Илон Маск в очередной раз предупредил об опасности искусственного интеллекта Статьи редакции

Человек, будучи диктатором, всё равно умрёт. Но для искусственного интеллекта смерть не наступит. Он будет жить вечно. Так мы получим бессмертного диктатора, от которого нельзя спастись.

Илон Маск
Руководитель Tesla и SpaceX

Высказывание прозвучало в документальном фильме Криса Пейна «Доверяешь ли ты этому компьютеру». «Наименее страшное будущее, о котором я могу думать, — это то, в котором мы, по крайней мере, демократизировали ИИ, потому что если одна компания или небольшая группа людей сумеют развить богоподобный цифровой суперинтеллект, они смогут захватить мир», — говорит Маск.

В фильме рассказывается о нескольких примерах использования искусственного интеллекта, включая автономное оружие, финансовые технологии и новостные алгоритмы.

0
126 комментариев
Написать комментарий...
Slava Chicago

В среде людей которые занимаются именно разработкой ИИ подобных страхов нету и не будет, нет оснований для таких страшилок, вообще. Но Маск человек от ИИ далёкой, он физик, предприниматель, а не исследователь. Очень странные вещи говорит про ИИ постоянно, как будто бы хочет замедлить прогресс. Не понимаю зачем.

Ответить
Развернуть ветку
Sht_Anton

думаю, что Нильс Бор и Ко тоже не особо испытывали страх перед тем, что может получиться из их исследований. Однако же

Ответить
Развернуть ветку
14 комментариев
Григорий Ефимов

Маск мыслит на десятилетия вперёд. А защитники ИИ мыслят на 1-2 года вперёд.
Разумеется в 2020-м от ИИ не будет никакой угрозы, а как насчёт 2050-го?

Ответить
Развернуть ветку
20 комментариев
Камаз Узбеков

А среди моих знакомых есть довольно подавленные настроения пополам с чёрным юмором насчёт сингулярности и опасности ИИ. Прогресс всё время ускоряется, и Маск его остановить не может.

Только обычно всё происходит не так, как предсказывают писатели-фантасты. Вот рядом не зря намекнули на атомную бомбу. Сто лет назад взрывной промышленности и технологий привёл к Первой мировой войне (после появления танков и самолётов). Во Второй мировой нам всем повезло, что Гитлер не успел завершить работы над атомной бомбой, иначе бы, возможно, мы тут сейчас не сидели.

Допустим, никакого диктаторского ИИ не будет. Но разные страны уже сейчас ведут работу над военным ИИ (роботы). Через 5-10 лет уж точно сделают что-то рабочее. Управляться они будут удалённо, конечно же. А теперь представьте, какие разрушения может нанести компьютерный вирус? Он же может пойти мочить людей. Ну как, нет основания для подобных страшилок?

Ответить
Развернуть ветку
4 комментария
Камаз Узбеков

А тот факт, что сейчас можно выиграть выборы, если просто запустить правильных ботов в соцсетях, это ли не опасность? Это же тоже ИИ. Безо всяких ваших боевых человекоподобных роботов. А может быть, можно и по-другому на людей повлиять, более эффективно?

Ответить
Развернуть ветку
5 комментариев
Камаз Узбеков

А как на счёт того, чтобы какая-то корпорация сделала вдруг особенно успешных роботов? Настолько успешных, что можно захватить небольшое государство? Нет основания для такого? Вы можете доказать, что этого не произойдёт?

Все основания есть: роботы конструируются и крутят сальтухи, computer vision работает, оружие в некоторых странах можно купить...

Ответить
Развернуть ветку
5 комментариев
Кирилл Бунаков

ну курнул человек после трудного дня. А умные мысли так и прут, так и прут. Нужно же срочно поделиться ими со всем миром!

Ответить
Развернуть ветку
Антон Дементьев

Маск чрезвычайно умный и прагматичный парень, работает на упреждение. Учитывая, что он инвестировал в AI стартапы вроде OpenAI, все это показное нытье и причитание по поводу "диктаторского искусственного интеллекта" - лишь ширма. Регуляция действительно будет, в виде, например, ограничения доступа на американский рынок китайским компаниям под предлогом "недемократичности и непрозрачности" их решений ) Что, собственно, Маск и лоббирует в интересах своих подопечных ) Суть высказывания - мы готовы демократизировать AI под ключ, только зачистите нам поле от возможных конкурентов. По мере роста рынка таких протекционистских причитаний будет все больше и больше. Честная конкуренция допустима лишь с теми, у кого заведомо выиграешь ;)

Ответить
Развернуть ветку
Илья Коваленко

А вообще он не прав, Ким Чен ын будет жить вечно

Ответить
Развернуть ветку
я люблю мандарины

Господа, искусственный интеллект может быть опасен и будет опасен. Страх Маска рационален.
Рекомендую послушать вот этот подкаст: https://samharris.org/podcasts/116-ai-racing-toward-brink/
Гость подкаста - Элизар Юдковский, один из ведущих мировых специалистов по когнитивной психологии и искуственному интеллекту (а ещё - автор неординарной книжки "Гарри Поттер и методы рационального мышления"), и разработчик первого "дружественного искуственного интеллекта" - такого AI, при разработке которого безопасность стоит на первом месте.
Он довольно подробно объясняет, почему искуственный интеллект будет опасен, если мы не предпримем меры на опережение.

P.S.: если вы хотите узнать поподробней, что это за человек и почему к нему стоит прислушиваться - книжка "Гарри Поттер и методы рационального мышления" будет отличным началом. Вы встретите в ней старых героев, которые попадают в экстраординарные даже по меркам Хогвартса обстоятельства - и о их приключениях написано легко, доступно, смешно, и лучше, чем даже у Роулинг.
Книжка доступна на русском языке по ссылке http://hpmor.ru/ и на английском по ссылке http://hpmor.com/

Ответить
Развернуть ветку
Miha Vasilenko

Вдруг выяснилось, что ты слишком щедр для этой аудитории.

Ответить
Развернуть ветку
Last Samurai

Можно без самопиара пожалуйста?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Иван Гессе
Ответить
Развернуть ветку
Артем Федоскин

Илон шикарный продавец, а все те, кто так или иначе с ним соглашается (причем боятся ИИ только на основе его мнения) просто ведутся на красивые сказочки. Что такое ИИ сейчас? Это просто класс алгоритмов (чаще всего ассоциирующееся с глубинным обучением). Теоретической базе большинства ИИ наработок уже 50-60 лет и сейчас вся эта тема стала популярна только благодаря Как сказал один российский ученый началу использования видеокарт для обучения моделей.
О каком ИИ можно говорить, когда мозг человека еще не расшифрован? Когда мы годами обсуждаем как устроены глубинные нейронные сети т.к. не понимаем процессы в них происходящие(что тем не менее не значит, что вдруг эти сети станут злыми или опасными для человека)? Для человечества больше опасности несут такие как Илон Маск, которые бабками (безусловный доход) хотят заткнуть дыры в образовании и воспитании общества. Большая часть мира не от голода, войны или ИИ умрет - она просто в конец отупеет и благодаря автоматизации богатая прослойка общество все меньше беспокоится об обществе.

Ответить
Развернуть ветку
Алексей Тарасов

| О каком ИИ можно говорить, когда мозг человека еще не расшифрован?

Копирование ЕИ не единственный вариант создания ИИ.

Ответить
Развернуть ветку
6 комментариев
Alan Alanov

Как известно, человеческий интеллект формируется не сразу, он формируется под воздействием различных факторов окружающей среды: родителей, социального окружения и т.д. К тому же, эмоции и инстинкты в жизни человека играют далеко не самую последнюю роль. Если подумать, то интеллект, испокон веков позволял человеку выживать и выполнять свою биологическую функцию, именно функцию, а не цель. Целью она стала тогда, когда собственно и началось развитие человека, как интеллектуального субъекта, который осознавал, что обладает разумом. То есть искусственный интеллект не может быть похож на человеческий никаким образом, а максимум может просто копировать образ мышления мозга человека, а именно то, как проходят связи между нейронами и т.п.
Резюмируя: интеллект человека развивался под влиянием страхов и инстинктов, соответственно развитие ИИ будет развиваться так, как его запрограммирует человек, в какие искусственные рамки его поставит, и какие «нормы поведения» в него внедрят, в данном аспекте ИИ может быть опасен безусловно... злого гения-ученого из фильмов никто не отменял

Ответить
Развернуть ветку
Коля Павельев

Люди, которые занимаются нейронками - обычные нормальные люди, и как любые нормальные люди, они не имеют времени и желания на то, чтобы понять что такое человек. А человек - робот, обрабатывающий входящие флуктуации. И хоть сегодня термин "тоталитарный режим" - строго пропагандисткий, который в ходу скорее в западном мире, который Маск и пугает, но технически это всё ещё остаётся способом управления, который выработался в результате тысячелетних обработок флуктуаций, и который по сей день остаётся эффективным для механизма, который вырабатывался миллионы лет в наших головах и телах. А значит и разные виды сетей при надобности организации ресурсов, может прийти к любой форме этой организации, в т.ч. к манипуляцием для прямого подчинения, особенно если речь идёт про управлении людьми, мозговые механизмы которых не сдвинуть за ближайшие тысячи лет, которые работают, работали и будут работать.

Так что Маск сказал правду. Он не описал ещё пессимистичный вариант, где машины будут менять поведение настолько, чтобы это меняло людей эволюционно, чтобы они ещё больше реагировали на такое изменение и подчинение.

Ответить
Развернуть ветку
Иван Ломаев

Страшилкам про ИИ верят только ботаники. Да ИИ может быть опасен, как и любая корявая программа или испорченный автомат, которому доверили что-то важное. Это из анекдота "кто бросил валенок на пульт". Но сам ИИ ничего не "захватит". ИИ невообразимо туп (где-то чуть тупее улитки) и будет таким, по современным меркам, вечно. Все современные ИИ вместе взятые не сопоставимы по интелекту даже с 1 насекомым (поскольку насекомое, как и любое живое существо занято сразу множноством "дел"). Конечно, для сидящего 24\7 за компом ботаника стрекоза - это свехрбыстрый инопланетянин-убийца. По мнению ботаника, умеющего нажимать на кнопки клавы и находить холодильник - стрекоза - умная и быстрая штука. Для нормального человека, знающего предел человеческого интеллекта, координации, хитрости, живучести, силы воли и выносливости - для спортсмена, художника, музыканта, изобретателя, артиста, танцора, охотника, военного, строителя - стрекоза - даже не тупое животное. Просто летающий кусок тупизны.

Ответить
Развернуть ветку
5 комментариев
sdkfldgfd dfkgjfddfg

Тоталитарный режим в Северной Корее - это просто пропагандистский термин и на самом деле там люди свободны и прекрасно себя чувствуют?

Ответить
Развернуть ветку
Miha Vasilenko

Это на тот случай, если ИИ люди нужны вообще. У меня ощущение, как будто Маск пытается перевести свое мнение на язык общественности. Люди в большинстве пока не способны поверить в сингулярность и испугаться ее.
Пора выпиливаться с vc несмотря на иногда годные новости. Было интересно читать комментарии, чтобы понять общее отношение к новостям. Но тут уже какие-то Одноклассники пошли. Будем общаться лично и в тру сообществах.

Ответить
Развернуть ветку
Илья Коваленко

И сделают его русские

Ответить
Развернуть ветку
sdkfldgfd dfkgjfddfg

Надеюсь, что это будет более цивилизованная страна.

Ответить
Развернуть ветку
Владислав Станецкий

в Америке, и то, если успеют сбежать до введения крепостного права

Ответить
Развернуть ветку
1 комментарий
Юрий Прокопенко

Пока что скорее китайцы. Потому что есть ресурсы и политические ценности соответствуют.

Ответить
Развернуть ветку
Илья Коваленко

Есть очень классная российская компания eora, мне кажется они сделают это раньше

Ответить
Развернуть ветку
4 комментария
Георгий Соловьёв

Оцифровать сознание П. Тогда ИИ и учиться быть диктатором не прийдется

Ответить
Развернуть ветку
Анатолий Леликов

Наши ученые из института исследования мозга давно ржут над темой ИИ. Машина, в любом случае не сможет никогда мыслить творчески, так как для этого нужно постоянное образование новых нейронных связей. В общем - что вложишь в программу, то и получишь.

Ответить
Развернуть ветку
Igor Erokhin
Машина, в любом случае не сможет никогда мыслить творчески

«Летающих машин тяжелее воздуха не может быть» — Лорд Кельвин, британский математик и физик, президент Британского Королевского Общества, 1895-й год.

Ответить
Развернуть ветку
1 комментарий
Blackrock

так то уже сейчас есть ии диджеи которые музыку штампуют.

Ответить
Развернуть ветку
Алексей Тарасов

| нужно постоянное образование новых нейронных связей

А ИНС, блин, не образовывают новые связи?

Ответить
Развернуть ветку
Олег Волков

Хорошее правило стартапера, живещего на инвестиции:

1. Постоянно о себе рассказывай: о фантастических и безумных идеях, о планах покорить мир, либо просто высказывайся по повестке для (чем противоречивей вбросишь - тем лучше).
2. Проси денег.
3. Делай хоть что-то.
4. Обьясняй, почему не получилось и что надо чуток подождать.
5. Повтори с п. 1

Ответить
Развернуть ветку
Artyom Konakov

Только технологии спасут этот мир. Внедрите ИИ в судебную систему, и вот вам непредвзятый судья, неподкупный и строго следующий букве закона. Ах да, наши законы же не совершенны, нужен ИИ, чтобы писал законы. А исполнительная власть, она же тоже не совершенна, нужен ИИ полицейский и т.д. Думаю, его опасения не безпочвенны.

Ответить
Развернуть ветку
Unreal Person

Я лучше буду прислуживать своему тостеру, чем всяким плешивым царям. Машине хотя бы не нужны деньги, одежда, элитные автомобили (ахахах) и секс. Этот совершенный логический разум будет думать о более сложных задачах, чем биологические куски мяса.

Ответить
Развернуть ветку
Blackrock

Глядишь судья и законы знать будет, и трактовать их всегда одинаково))))) заживем)))

Ответить
Развернуть ветку
1 комментарий
Andre Macareno

В Кремле ехидно посмеялись.

Ответить
Развернуть ветку
Кирилл Бунаков

Эта тема фантастами уже лет сто как обсасывается со всех сторон. В чём новость-то? Что нового Маск сказал?

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Andrey Azarov

а вы знаете?

Ответить
Развернуть ветку
Прочел это-потратил время зря

Может так и должен выглядеть конец человечества:
- отреклись от совершенного интеллекта, который создал их (Бог)
- стали рабами или уничтожены интеллектом, который сами же создали
Какой может быть более позорный конец?

Ответить
Развернуть ветку
Евгений Захаров

Про бога шутка? Его не существует, это до ужаса очевидно.

Ответить
Развернуть ветку
6 комментариев
Коля Павельев

Этот конец прекрасен

Ответить
Развернуть ветку
Sht_Anton

По-моему, Маск тут прав. Другое дело, что прогресс уже не остановить, но о возможных проблемах надо задумываться уже сейчас

Ответить
Развернуть ветку
Boris Lissov

Говорить об опасностях ИИ смешно. Решения принимают люди. Если рано или поздно элиты станут настолько некомпетентны, чтобы безоговорочно верить программе (пусть даже и крутой) - их дни закончатся скорее, чем их управление успеет наделать делов.

То же самое и по части производства - какой, черт побери, процент мирового ВВП берет на себя крупное роботизированное производство? И какой - дешевый, порой нелегальный, труд узбеков, пакистанцев, малайзицев и т.д.? Зачем строить полностью автономный завод управляемый ИИ, если легче сначала организовать войну, а потом согнать население, готовое работать за плошку риса, собирать ваш продукт?

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Pavel Osadchuk

Во-первых, табакерку никто не отменял. ИИ нужны вычислительные мощности, нужно электричество. Переключил автомат в датацентре и нет ИИ.

Во-вторых, диктатор потому и диктатор что сначало он жаждет власти и богатства, а получив, в страхе за свою жизнь и все потерять, держиться за трон до конца.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Кирилл Бунаков

так это и есть его предпринимательское дело - рассказывать сказки и страшилки

Ответить
Развернуть ветку
topovyj

Интересно как он задумал монетизировать беспочвенный страх который он зачем-то нагнетает?
Создадут компанию выдающую лицензии на ИИ :)?
Или это просто чтобы быть на слуху.

Ответить
Развернуть ветку
Михаил Лапин

Насколько мне известно он в open AI разрабатывал искусственный интелект для всех, по крайне мере хотел.

Ответить
Развернуть ветку
Bringo_call_tracking

Таки да надо аккуратнее

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Alexander Dark

Мне кажется что при ИИ диктаторе человечество будет жить лучше в миллионы, а то и десятки миллионов раз, чем при кожаных ублюдках во главе.А как вы думаете?

Ответить
Развернуть ветку
Алексей Тарасов

Ага, в матрице будут жить, или на кладбище.

Ответить
Развернуть ветку
Alex Chalov

Чтобы капитализировать микро-миф, нужно распиарить макро-миф.

Ответить
Развернуть ветку
Alexander Shirnen

Разархивруйте плиз вашу глубокую мысль

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Кирилл Стенцов

Военка, нефтянка, фарма, агро, химия, и ещё можно долго перечислять эволюционные ходы в разных сферах, которые имеют целые шлейфы деструктива.
И после этого кто-то надеется, что ИИ фартанет?
Не думают те, кому, в принципе пох*й на то, что творится вокруг него.

Ответить
Развернуть ветку
Game Ewok6

ну так иди в политику и запрети на законодательном уровне работу над ИИ, зб

Ответить
Развернуть ветку
Blackrock

Настолько опасный ИИ несможет на одном Макбуке работать будет какой нибудь суперкомпьютер. Который автоматически станет мишенью конкурирующей страны и будет разработана возможность его уничтожения и наоборот. Как это Маск спокойно ночью спит зная что РФ Китай Индия и Пакистан (да и любая другая страна даже союзная) могут в любой момент уничтожить пол США.
Любое действие имеет противодействие, плюс человек так устроен что властью ни с кем и ни с чем делиться незахочет.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
SocialWarrior
Ответить
Развернуть ветку
Nikita Maskva

Мы уже гибнем уничтожая планету на которой живем. ИИ ускорит процесс сохранения планеты/жизни в её проявлении. Ибо многообразие жизни само по себе Чудо. Высшее создание.

Ответить
Развернуть ветку
Глеб Лобов

Как говорится: "на воре шапка горит".
Хитренький он, всем говорит что"ИИ-опасно" , а сам по-тихоря вкладывается в ИИ!

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Антон Дементьев

Для осознания бессмысленности этого высказывания Маска достаточно ответить на вопрос: являются ли современные наработки в области ИИ хотя бы грубой аппроксимацией модели человеческого мышления? Иными словами, can computer programs think? Ответ очевиден. Любой даже самый навороченный алгоритм - это всего лишь набор инструкций, записанный хитровыдуманной нотацией (=язык программирования). Используя эти алгоритмы, можно написать биржевого бота, который будет совершать операции купли-продажи в интересах владельца или рассчитывать траектории баллистических ракет. Казалось бы, сложные задачи. А теперь представим 5-летнего ребенка, который идет по улице и вдруг решает плюнуть в лужу. Механизмы возникновения этого события не способна объяснить ни одна из существующих моделей ИИ, именно потому, что "архитектура" человеческого мозга имеет мало общего с придуманным человеком куском железа под названием "компьютер". Определенные опасения могут быть связаны со сбоями в работе ИИ, но Маск имеет в виду именно программу, обладающую волей и сознанием, что на данном этапе развития науки является фантастикой.

Ответить
Развернуть ветку
Михаил Лапин

Есть такой хороший, но забытый термин, который обозначает людей борющихся против инноваций - луддиты и неолуддиты. Маск неолуддит, совершенно не разбирается в технологии о которой говорит, скоро будет с молотком хуярить по дата-центрам с ИИ.

Ответить
Развернуть ветку
Читать все 126 комментариев
null