Будущее Konstantin Panphilov
13 827

Илон Маск в очередной раз предупредил об опасности искусственного интеллекта

Человек, будучи диктатором, всё равно умрёт. Но для искусственного интеллекта смерть не наступит. Он будет жить вечно. Так мы получим бессмертного диктатора, от которого нельзя спастись.

Илон Маск
Руководитель Tesla и SpaceX

Высказывание прозвучало в документальном фильме Криса Пейна «Доверяешь ли ты этому компьютеру». «Наименее страшное будущее, о котором я могу думать, — это то, в котором мы, по крайней мере, демократизировали ИИ, потому что если одна компания или небольшая группа людей сумеют развить богоподобный цифровой суперинтеллект, они смогут захватить мир», — говорит Маск.

В фильме рассказывается о нескольких примерах использования искусственного интеллекта, включая автономное оружие, финансовые технологии и новостные алгоритмы.

#будущее

{ "author_name": "Konstantin Panphilov", "author_type": "editor", "tags": ["\u0431\u0443\u0434\u0443\u0449\u0435\u0435"], "comments": 127, "likes": 57, "favorites": 1, "is_advertisement": false, "subsite_label": "future", "id": 35969, "is_wide": true }
{ "id": 35969, "author_id": 3, "diff_limit": 1000, "urls": {"diff":"\/comments\/35969\/get","add":"\/comments\/35969\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/35969"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199118 }

127 комментариев 127 комм.

Популярные

По порядку

Написать комментарий...
11

В среде людей которые занимаются именно разработкой ИИ подобных страхов нету и не будет, нет оснований для таких страшилок, вообще. Но Маск человек от ИИ далёкой, он физик, предприниматель, а не исследователь. Очень странные вещи говорит про ИИ постоянно, как будто бы хочет замедлить прогресс. Не понимаю зачем.

Ответить
34

думаю, что Нильс Бор и Ко тоже не особо испытывали страх перед тем, что может получиться из их исследований. Однако же

Ответить
15

Аналогия это не аргумент

Ответить
15

для технологии, которая только зарождается, это, по крайней мере, повод задуматься о тех последствиях, которые могут произойти. Никто не предлагает отказаться от развития ИИ, но развитие должно учитывать разные сценарии его использования. И Маск их учитывает, а вы нет. В этом и отличие вас от Маск

Ответить
–6

графомания, практически никак не относящаяся к моему комменту выше.

Ответить
–5

Хомяки маска, расслабьте пуканы, извините что оскорбил ваши религиозные чувства.

Ответить
3

Да фигня, со всеми бывает. Маск воскресе.

Ответить
1

Воистину воскресе!

Ответить
5

Эмм... Ну так этот-же аргумент можно привести против ЛЮБОЙ новой технологии. При чём тут ИИ?

Ответить
11

Это не аргумент, а рациональное предложение рассмотреть все варианты последствия развития ИИ. Маск не предлагает отказаться от его развития, он предлагает учитывает возможные последствия такого развития и быть к ним подготовленными
Есть подозрения, что не Маск далекий от ИИ, а вы и те, кого вы приводите в пример, т.к. не охватываете весь комплекс проблем.

Ответить
7

Ну давай, расскажи мне про проблемы, если знаешь о них лучше меня.

Проблем сейчас нету, это факт. Маск пугает всех general AI, которого нет даже в прототипе, не то чтобы в демо-версии в данный момент. Немного странно когда страхи и просьбы о регулировании технологии, появляются до появления самой технологии.

Всё что есть сейчас в ИИ, нереально далеко от того чем пугает Маск. И его страшилки ни чего хорошего для сферы не сделают. Появится технология - поговорим о старах и регулировании. Хотя бы очень плохо работающая версия. Хотя-бы что-то очень отдалённо напоминающее интеллект. А с таким подходом, который пропагандирует Маск, она ни когда не появится.

Ответить
5

проблемы надо начинать изучать тогда, когда они еще не начинают быть проблемами, по крайней мере, относится к ним не наплевательски

Ответить
1

Я считаю что в технологиях так делать нельзя. Если до возникновения проблем вставлять исследователям и энтузиастам палки в колёса, то они просто перестанут этим заниматься и ни каких проблем уже точно не будет, так как технологии не будет.

Ответить
1

зачем вставлять палки в колеса? просто параллельно надо вести исследования и побочных эффектов

Ответить
1

Согласен, но то, что делает Маск, это именно палки в колёса. Он очень портит репутацию ИИ в глазах многих людей, в том числе и инвесторов и политиков. Сам то он палки не вставляет, а впечатлительные полиики, которые в этом вообще нули, могут навставлять. Впечатлительные инвесторы могут уменьшить финансирование. Вёл бы свои исследования молча, параллельно, но вместо этого Маск сейчас наносит огромный урон репутации ещё даже не зародившейся технологии.

Ответить
0

Нильс Бор, как раз, все понимал, но его пугало то, что у Гитлера может появиться атомное оружие. Увы, и с ИИ то же будет: реальная угроза появления боевых интеллектуальных систем у ... ну, скажем, у Ким Чен-Ына или Исламского государства, заставит начать его ускоренными темпами создавать в Силиконовой долине, а ... ну, скажем, Ким Чен-Ын или Исламское государство сами создать боевой ИИ не смогут, но смогут украсть ноу-хау, в чем им помогут там работающие таланты, которым безумные мечтания в голову проникли, о чем они потом до смерти жалеть будут. Прогресс не остановить, и, увидев известный мультик, понимаешь, что мы, похоже, боковая и нежизнеспособная ветвь эволюции, готовая и к самоуничтожению, и к уничтожению всего живого на Земле.

Ответить
23

Маск мыслит на десятилетия вперёд. А защитники ИИ мыслят на 1-2 года вперёд.
Разумеется в 2020-м от ИИ не будет никакой угрозы, а как насчёт 2050-го?

Ответить

Комментарий удален

5

Учитывая скорость развития нейронных сетей, скорее всего человечества не будет к 2050 году, а железяки то останутся.

Маск хороший пример кстати приводил, что какой нибудь робот-трейдер может спровоцировать ядерную войну чтобы просто успешно торгануть акциями.

Фишка в том, что программисты не видят какие именно алгоритмы содержатся внутри слоёв нейронов. Так что это вполне реальный сценарий для 2040-х годов.

Ответить

Комментарий удален

5

Прогресс в сфере железа медленный, т.к. нужно строить заводы, создавать новые материалы и т.п. Но в сфере математических алгоритмов и программирования он гораздо быстрее. ИИ который нас уничтожит - это не терминатор с горящими глазами, а обычный дата-центр в подвале с неправильно обученой нейросетью (т.е. на самом деле с правильно обученной, просто с небольшим багом в виде уничтожения человечества).

Ответить
6

Да? Когда заговорили об искусственных нейронных сетях? В 1943 году. С того времени, смогли ли мы создат ИИ, который не то что нас уничтожит, а способен на что-то большее чем отличить хот дог от не хот дога?
Даже те же автономные авто это не только нейронки. Это куча другого разного стаффа, который никак не ведет к появленияю интеллекта.

Ответить
3

Правильно, 70 лет делали железяки, а алгоритмы смогли придумать в разы быстрее.

Недавнее ДТП со сгоревшим водителем за рулём теслы - это пример уничтожения человечества в миниатюре. Как-то обученная нейросеть решила что для человека будет лучше всего въехать в отбойник.

Точно так же какая нибудь нейросеть торгующая акциями решит что ядерная война поднимет цену акций до небес.

Ответить
0

Но зачем обычной программе придавать какую-то личность? Извините, но фен может человека убить, если упадет в воду, так что, теперь войну фенам объявлять?
То, что вы привели в пример говорит об ошибках человека, который неправильно воспользовался технологией. Смерть водителя Теслы это не скрытая злоба нейросети на человека, а ошибка ее создателя. Если бы это была не нейросеть, а что-то другое, то это тоже была бы ошибка создателя.
70 лет делали железяки и за 70 лет теоретическая база не продвинулась радикально. Скорее железяки продвинулись больше и обеспечили подъем технологии. Почитайте про то, сколько "зим" пережила сфера ИИ.
Учась по обмену полтора года назад в Германии я неприятно удивился, когда в курсе "Искусственный Интеллект" мы по большей степени изучали алгоритмы поиска.

Ответить

Комментарий удален

0

Ядерную войну с большой вероятностью может учинить и какая нибудь нейросеть естественного происхождения и высокого положения, вообразившая, что гады враги обижают и не дают чего-нибудь там, без чего шкодливой нейросети жизнь не мила. Так что ИИ пока к главным угрозам существования человечества не относится, хотя со временем все может статься.

Ответить
0

как раз неправильно обученная нейросеть - скорее всего и уничтожит ))

PS: упс не заметил примечание

Ответить
0

Нейросеть скорее железо спалит, на котором она запущена, а не истребит человечество. Не дадут нейронные сети ИИ человечеству. Спуститесь на землю.

Ответить
3

А можно поточнее, как "маск мыслит на десятилетия вперёд"? А то звучит как поклонение успешному бизнесмену скорее.

Ответить
4

От основания SpaceX до полёта Falcon Heavy прошло 15 лет. До BFR и миссии на Марс пройдет ещё лет 10 наверно, итого 25. Ну вот так Маск и мыслит десятилетиями.

Ответить
4

Вы просто перечислили свершившиеся события в хронологическом порядке и поделились своими мыслями о будущем. В подтверждение тезиса ничего не написав. Конечно подумаете что я хэйтер Маска, но, мне просто кажется что вы его слишком иконизируете.

Ответить
1

Ну да, возможно вы правы. Маску просто повезло и события сами так сложились.

Ответить
2

чувствую нотку сарказма, но, я такого довода не приводил, хотя кстати мысль жизнеспособна в какой-то мере.

Ответить
1

Фанаты Маска минусят) не могут поверить, что можно творения Маска под сомнения ставить, религия, она такая.

Ответить
–2

Ты теперь ходишь по моим комментам на vc и ставишь минусы? Боже, какой ребёнок.

Ответить
2

Камон, я тебе и плюсы ставил) но вижу, бомбит от минусов, раз уже не выдержав написал

Ответить
0

К тому времени постепенно будет выкатываться регулирование. Просто технологии должны идти впереди регулирования, иначе они тупо развиваться не будут. General AI которым пугает всех Маск, сейчас в стадии зародыша, и такие страшилки и регулирование просто убьют эту сферу на данном этапе.

Ответить
18

А среди моих знакомых есть довольно подавленные настроения пополам с чёрным юмором насчёт сингулярности и опасности ИИ. Прогресс всё время ускоряется, и Маск его остановить не может.

Только обычно всё происходит не так, как предсказывают писатели-фантасты. Вот рядом не зря намекнули на атомную бомбу. Сто лет назад взрывной промышленности и технологий привёл к Первой мировой войне (после появления танков и самолётов). Во Второй мировой нам всем повезло, что Гитлер не успел завершить работы над атомной бомбой, иначе бы, возможно, мы тут сейчас не сидели.

Допустим, никакого диктаторского ИИ не будет. Но разные страны уже сейчас ведут работу над военным ИИ (роботы). Через 5-10 лет уж точно сделают что-то рабочее. Управляться они будут удалённо, конечно же. А теперь представьте, какие разрушения может нанести компьютерный вирус? Он же может пойти мочить людей. Ну как, нет основания для подобных страшилок?

Ответить
1

Нет, нет основания. Маск пугает всех штукой под названием General AI, по русски наверное правильно будет сказать "не специализированный"/общий ИИ. Так вот этого сейчас нет, general AI сейчас в стадии зародыша, пугаться нечего, ни одного рабочего примера не было создано. Даче ни одного рабочего примера чего-то из далека напоминающего general AI не было. И все эти страшилки и попытки регулирования, технологию закопают на стадии зародыша, что очень плохо.

Всё что сейчас есть это простые методы, решающие узкоспециализированные задачи. Все эти "военные роботы" это максимум тележка с автоматом, в которой есть процессор и установлена нейросетка, распознающая объекты по которым нужно стрелять. Ни какого интеллекта у такой тележки нет. Ни каких решений такая тележка принимать не может, кроме решения в какую сторону стрелять.

Ответить
1

| ни одного рабочего примера не было создано
Да вам почём знать. Об этом не будут трубить в СМИ. О факте его существования вы узнаете из применения, как народ узнал о первой ядерной бомбе после её применения. Развитие зародыша до монстра может протекать очень быстро. И после никто уже не сможет ничего изменить. Хотя всё равно именно так и произойдёт.

Ответить
0

Я бы сказал не зародыша, а мама с папой над ним работают, но чет не получается.

Ответить
1

Прогресс всё время ускоряется, и Маск его остановить не может.

Да он и не пытается остановить, он пытается заранее уберечь от опасностей AI. Этим и занимается его Open AI

Ответить
5

А тот факт, что сейчас можно выиграть выборы, если просто запустить правильных ботов в соцсетях, это ли не опасность? Это же тоже ИИ. Безо всяких ваших боевых человекоподобных роботов. А может быть, можно и по-другому на людей повлиять, более эффективно?

Ответить
6

Дружище, боты это не ИИ, боты это студенты в офисе за 20к в месяц. ИИ сейчас не способен разговаривать даже на уровне маленького ребёнка.

Ответить
1

Дружище, боты это не ИИ, боты это студенты в офисе за 20к в месяц.

Там всё интересное находится на сервере, откуда управляет толпой.

ИИ сейчас не способен разговаривать даже на уровне маленького ребёнка.

Даже про Алису не слышали?

Ответить
1

Алиса и не умеет разговаривать! А лишь повторяет шаблонные фразы и отсылки. При внимательном с ней общении это сразу вскрывается и становится не интересно. Так что пока ИИ это лишь наброски.

Ответить
–1

Нельзя выиграть или проиграть выборы из-за фейсбука. Просто некоторые проигравшие пытаются оправдаться таким образом.

Ответить
0

Скорее, победившие пытаются прорекламироваться.

Ответить
2

А как на счёт того, чтобы какая-то корпорация сделала вдруг особенно успешных роботов? Настолько успешных, что можно захватить небольшое государство? Нет основания для такого? Вы можете доказать, что этого не произойдёт?

Все основания есть: роботы конструируются и крутят сальтухи, computer vision работает, оружие в некоторых странах можно купить...

Ответить
4

что мешает корпорации сейчас нанять наемников и напасть на какую нибудь небольшую страну?

Ответить

Комментарий удален

2

Я могу доказать что интеллекта в этих роботах нет, стоят обычные нейросетки, решающие очень простые и узкоспециализированные задачи. Думать эти роботы не могут и не понятно, смогул ли в ближайшие 20 лет. И пока мы очень далеки от технологии, которой вы все так боитесь, нужно дать исследователям спокойно работать, а не запугивать людей и требовать регулирования сферы, которая ещё не появилась.

Не путайте пожалуйста узкоспециализированный ИИ, который есть сейчас, (эта штука ни когда ни на кого не нападёт и ни кем управлять не сможет, алгоритмы слишком простые) и general AI, которого сейчас просто нет, даже в демо-версии.

Ответить
4

Я могу доказать что интеллекта в этих роботах нет, стоят обычные нейросетки, решающие очень простые и узкоспециализированные задачи.

Для этого нужно определить, что такое интеллект. Тест Тьюринга уже под вопросом. Сверхчеловеческие способности в некоторых областях уже есть.

Думать эти роботы не могут и не понятно, смогул ли в ближайшие 20 лет.

Аналогично, смотря что считать мышлением.

И пока мы очень далеки от технологии, которой вы все так боитесь,

Говорите за себя. Я ничего не говорил про generic AI.

Не путайте пожалуйста узкоспециализированный ИИ, который есть сейчас,

Я и не путаю. Я три поста написал с примерами, как безо всякого generic AI можно создать кучу проблем, а вы похоже не осилили их прочитать.

Ответить
1

Для этого нужно определить, что такое интеллект.

Пример. Сейчас впереди всех в разработке AI компания DeepBrain, купенная Alphabet. Они обучили нейронку обыгрывать людей в Go, раньше всем казалось что это невозможно. Но эта нейронка на столько специализированная, что при смене формы доски, уже не может играть даже на уровне новичка. Есть сверхеловеческие способности, но в настолько узких задачах, что управлять ни кем такие роботы пока не могут и не понятно как сделать чтобы могли, этого люди просто не знают в данный момент. Мозг не изучен достаточно, много загадок. Можно не пытаться имитировать мозг, искать другие подходы, ищут, но тоже пока безуспешно. Маск просто пиарит своё неадекватное видение ИИ, вот и всё.

Ответить
0

ну курнул человек после трудного дня. А умные мысли так и прут, так и прут. Нужно же срочно поделиться ими со всем миром!

Ответить
0

Маск чрезвычайно умный и прагматичный парень, работает на упреждение. Учитывая, что он инвестировал в AI стартапы вроде OpenAI, все это показное нытье и причитание по поводу "диктаторского искусственного интеллекта" - лишь ширма. Регуляция действительно будет, в виде, например, ограничения доступа на американский рынок китайским компаниям под предлогом "недемократичности и непрозрачности" их решений ) Что, собственно, Маск и лоббирует в интересах своих подопечных ) Суть высказывания - мы готовы демократизировать AI под ключ, только зачистите нам поле от возможных конкурентов. По мере роста рынка таких протекционистских причитаний будет все больше и больше. Честная конкуренция допустима лишь с теми, у кого заведомо выиграешь ;)

Ответить
12

А вообще он не прав, Ким Чен ын будет жить вечно

Ответить
8

Господа, искусственный интеллект может быть опасен и будет опасен. Страх Маска рационален.
Рекомендую послушать вот этот подкаст: https://samharris.org/podcasts/116-ai-racing-toward-brink/
Гость подкаста - Элизар Юдковский, один из ведущих мировых специалистов по когнитивной психологии и искуственному интеллекту (а ещё - автор неординарной книжки "Гарри Поттер и методы рационального мышления"), и разработчик первого "дружественного искуственного интеллекта" - такого AI, при разработке которого безопасность стоит на первом месте.
Он довольно подробно объясняет, почему искуственный интеллект будет опасен, если мы не предпримем меры на опережение.

P.S.: если вы хотите узнать поподробней, что это за человек и почему к нему стоит прислушиваться - книжка "Гарри Поттер и методы рационального мышления" будет отличным началом. Вы встретите в ней старых героев, которые попадают в экстраординарные даже по меркам Хогвартса обстоятельства - и о их приключениях написано легко, доступно, смешно, и лучше, чем даже у Роулинг.
Книжка доступна на русском языке по ссылке http://hpmor.ru/ и на английском по ссылке http://hpmor.com/

Ответить
5

Вдруг выяснилось, что ты слишком щедр для этой аудитории.

Ответить
2

Можно без самопиара пожалуйста?

Ответить
7

Илон шикарный продавец, а все те, кто так или иначе с ним соглашается (причем боятся ИИ только на основе его мнения) просто ведутся на красивые сказочки. Что такое ИИ сейчас? Это просто класс алгоритмов (чаще всего ассоциирующееся с глубинным обучением). Теоретической базе большинства ИИ наработок уже 50-60 лет и сейчас вся эта тема стала популярна только благодаря Как сказал один российский ученый началу использования видеокарт для обучения моделей.
О каком ИИ можно говорить, когда мозг человека еще не расшифрован? Когда мы годами обсуждаем как устроены глубинные нейронные сети т.к. не понимаем процессы в них происходящие(что тем не менее не значит, что вдруг эти сети станут злыми или опасными для человека)? Для человечества больше опасности несут такие как Илон Маск, которые бабками (безусловный доход) хотят заткнуть дыры в образовании и воспитании общества. Большая часть мира не от голода, войны или ИИ умрет - она просто в конец отупеет и благодаря автоматизации богатая прослойка общество все меньше беспокоится об обществе.

Ответить
1

| О каком ИИ можно говорить, когда мозг человека еще не расшифрован?

Копирование ЕИ не единственный вариант создания ИИ.

Ответить
0

Не спорю, у Ника Бострома рассмотрено несколько способов появления ИИ. Пример с ЕИ я привел для того, чтобы показать, как далеки мы пока от того, чтобы понять как устроен в принципе интеллект и что это вообще такое.
Это не означает, что не стоит ожидать прорывов в ближайшие 5-10 лет и все футурологи ошибаются. Учитывая экспоненциальные темпы технологического росто, можно ожидать чего угодно, просто пока я не вижу предпосылок для того, чтобы необходимо было бояться ИИ. Бояться ИИ на данном и ближайшем этапе его развития это как бояться собственной стиральной машины, потому что она у вас часть повседневной работы по дому забрала и распоряжается (в какой-то степени) вашей одеждой.

Ответить
1

| Учитывая экспоненциальные темпы

Вот именно, "экспоненциальные". Никто, как раз, не учитывает.

Человеческий мозг привык к линейному "перемещению" во всём, как делает это в пространстве. Поэтому видит опасный ИИ где-то там за горизонтом, куда дойдут только его внуки. То, что в экспоненциальном "пространстве" этот путь до горизонта займёт условные сутки, в голове людей не помещается. Так как нет такого личного опыта. Хотя пример с ядерной бомбой все знают. Чих-пых, и вот у цивилизации, даже не вышедшей в космос, в руках за небольшой промежуток времени оказалось самое смертоносное оружие.

Я бы побоялся своей стиралки, если бы её интеллект развивался экспоненциально. Сегодня я в ней стираю, а завтра она меня отжимает в центрифуге. )

Ответить
0

С чего вы взяли, что искуственный интеллект развивается экспоненциально? Экспоненциально и уже с огрехами работает закон Мура. Если вы нейронную сеть называете интеллектом, то глубоко ошибаетесь.
Джеффри Хинтон, автор одного из самых главных алгоритмов в сфере нейронных сетей, как-то сказал, что современные нейронные сети делают что-то очень неправильное. Для того, чтобы понять, что на красный свет не надо переходить дорогу, ребенку достаточно осознать это один раз, а не посмотреть миллионы картинок.

Ответить
0

Экспоненциально развиваются технологии, на которых строится ИИ. То, что было фантастикой 5, да даже 3 года назад, сейчас обыденность.

Пока одни тысячелетиями пытаются формализовать интеллект, другие работают. Хинтон - один из них.

"Хинтон ... сказал, что современные нейронные сети делают что-то очень неправильное." Сказал и выкатил недавно капсульные сети, чтобы делали правильно.

В неокортексе всего 6 слоёв и десяток типов нейронов, и наука не в состоянии без, наверно ИИ, понять принцип его работы. Так что, выходит замкнутый круг.

Ответить
1

"наука не в состоянии без, наверно ИИ" - домысел, построенный на фантастических воззрениях об ИИ.

А теперь скажите мне, что было 3 года назад фантастикой? Теоретической базе уже десятки лет. Видеокарты существуют десятки лет, CUDA была создана тоже относительно давно.

Подобные воззрения сродни вере.

Ответить
0

Вижу, вам просто хочется возражать.
Что было 3 года назад фантастикой? Deepfakes был полгода года назад фантастикой.

Ответить
6

Как известно, человеческий интеллект формируется не сразу, он формируется под воздействием различных факторов окружающей среды: родителей, социального окружения и т.д. К тому же, эмоции и инстинкты в жизни человека играют далеко не самую последнюю роль. Если подумать, то интеллект, испокон веков позволял человеку выживать и выполнять свою биологическую функцию, именно функцию, а не цель. Целью она стала тогда, когда собственно и началось развитие человека, как интеллектуального субъекта, который осознавал, что обладает разумом. То есть искусственный интеллект не может быть похож на человеческий никаким образом, а максимум может просто копировать образ мышления мозга человека, а именно то, как проходят связи между нейронами и т.п.
Резюмируя: интеллект человека развивался под влиянием страхов и инстинктов, соответственно развитие ИИ будет развиваться так, как его запрограммирует человек, в какие искусственные рамки его поставит, и какие «нормы поведения» в него внедрят, в данном аспекте ИИ может быть опасен безусловно... злого гения-ученого из фильмов никто не отменял

Ответить
4

Люди, которые занимаются нейронками - обычные нормальные люди, и как любые нормальные люди, они не имеют времени и желания на то, чтобы понять что такое человек. А человек - робот, обрабатывающий входящие флуктуации. И хоть сегодня термин "тоталитарный режим" - строго пропагандисткий, который в ходу скорее в западном мире, который Маск и пугает, но технически это всё ещё остаётся способом управления, который выработался в результате тысячелетних обработок флуктуаций, и который по сей день остаётся эффективным для механизма, который вырабатывался миллионы лет в наших головах и телах. А значит и разные виды сетей при надобности организации ресурсов, может прийти к любой форме этой организации, в т.ч. к манипуляцием для прямого подчинения, особенно если речь идёт про управлении людьми, мозговые механизмы которых не сдвинуть за ближайшие тысячи лет, которые работают, работали и будут работать.

Так что Маск сказал правду. Он не описал ещё пессимистичный вариант, где машины будут менять поведение настолько, чтобы это меняло людей эволюционно, чтобы они ещё больше реагировали на такое изменение и подчинение.

Ответить
–7

Страшилкам про ИИ верят только ботаники. Да ИИ может быть опасен, как и любая корявая программа или испорченный автомат, которому доверили что-то важное. Это из анекдота "кто бросил валенок на пульт". Но сам ИИ ничего не "захватит". ИИ невообразимо туп (где-то чуть тупее улитки) и будет таким, по современным меркам, вечно. Все современные ИИ вместе взятые не сопоставимы по интелекту даже с 1 насекомым (поскольку насекомое, как и любое живое существо занято сразу множноством "дел"). Конечно, для сидящего 24\7 за компом ботаника стрекоза - это свехрбыстрый инопланетянин-убийца. По мнению ботаника, умеющего нажимать на кнопки клавы и находить холодильник - стрекоза - умная и быстрая штука. Для нормального человека, знающего предел человеческого интеллекта, координации, хитрости, живучести, силы воли и выносливости - для спортсмена, художника, музыканта, изобретателя, артиста, танцора, охотника, военного, строителя - стрекоза - даже не тупое животное. Просто летающий кусок тупизны.

Ответить
13

Ты понимаешь, что сейчас описал не ИИ, а какую-то хуйню?

Ответить
0

ну, приведи пример ИИ не тупого. Даже самое простое, банальное распознавание образов "плоских" статичных образов. То, что делает любое насекомое, улитка даже - только с трехмерными образами. Вот как это делает великолепная "Азура" https://geektimes.ru/post/299809/ Пока что ИИ может генерить приколы. и все. Ну еще может в онлайне притворятся человеком. Секунд 10.

Ответить
0

Ты нейросети и ИИ путаешь, дядя.

Ответить
0

сынок, запули пруф про круто умный ИИ. будь лаской.

Ответить
0

Откуда я его возьму, если ИИ не существует?

Ответить
0

Тоталитарный режим в Северной Корее - это просто пропагандистский термин и на самом деле там люди свободны и прекрасно себя чувствуют?

Ответить
0

Это на тот случай, если ИИ люди нужны вообще. У меня ощущение, как будто Маск пытается перевести свое мнение на язык общественности. Люди в большинстве пока не способны поверить в сингулярность и испугаться ее.
Пора выпиливаться с vc несмотря на иногда годные новости. Было интересно читать комментарии, чтобы понять общее отношение к новостям. Но тут уже какие-то Одноклассники пошли. Будем общаться лично и в тру сообществах.

Ответить
1

И сделают его русские

Ответить
6

Надеюсь, что это будет более цивилизованная страна.

Ответить
2

в Америке, и то, если успеют сбежать до введения крепостного права

Ответить
1

Ну не в Сколково же

Ответить
2

Пока что скорее китайцы. Потому что есть ресурсы и политические ценности соответствуют.

Ответить
–6

Есть очень классная российская компания eora, мне кажется они сделают это раньше

Ответить
4

все хотят пропиарить своих на хайповых заметках о Маске

Ответить
0

Да и пиар в комментариях это слишком мелочно, не находите?

Ответить
2

Тем не менее, скрытой (и не очень) рекламы тут на ветках хватает, в т.ч. в комментариях. Ваш выглядел именно так.

Ответить
–1

Это не "пиар своих", а чисто мое субъективное мнение

Ответить
–1

Оцифровать сознание П. Тогда ИИ и учиться быть диктатором не прийдется

Ответить
–7

Наши ученые из института исследования мозга давно ржут над темой ИИ. Машина, в любом случае не сможет никогда мыслить творчески, так как для этого нужно постоянное образование новых нейронных связей. В общем - что вложишь в программу, то и получишь.

Ответить
31

Машина, в любом случае не сможет никогда мыслить творчески

«Летающих машин тяжелее воздуха не может быть» — Лорд Кельвин, британский математик и физик, президент Британского Королевского Общества, 1895-й год.

Ответить
0

А ведь может через сотню лет кто-то запостит аналогичный коммент про "машину времени невозможно создать".

П.С. интересно, машины (ИИ), которые создадут таки эту машину времени будут испытывать дискомфорт от того, что они действуют по сочиненному людьми сценарию художественного фильма?

Ответить
1

так то уже сейчас есть ии диджеи которые музыку штампуют.

Ответить
0

| нужно постоянное образование новых нейронных связей

А ИНС, блин, не образовывают новые связи?

Ответить
4

Хорошее правило стартапера, живещего на инвестиции:

1. Постоянно о себе рассказывай: о фантастических и безумных идеях, о планах покорить мир, либо просто высказывайся по повестке для (чем противоречивей вбросишь - тем лучше).
2. Проси денег.
3. Делай хоть что-то.
4. Обьясняй, почему не получилось и что надо чуток подождать.
5. Повтори с п. 1

Ответить
1

Только технологии спасут этот мир. Внедрите ИИ в судебную систему, и вот вам непредвзятый судья, неподкупный и строго следующий букве закона. Ах да, наши законы же не совершенны, нужен ИИ, чтобы писал законы. А исполнительная власть, она же тоже не совершенна, нужен ИИ полицейский и т.д. Думаю, его опасения не безпочвенны.

Ответить
7

Я лучше буду прислуживать своему тостеру, чем всяким плешивым царям. Машине хотя бы не нужны деньги, одежда, элитные автомобили (ахахах) и секс. Этот совершенный логический разум будет думать о более сложных задачах, чем биологические куски мяса.

Ответить
1

Глядишь судья и законы знать будет, и трактовать их всегда одинаково))))) заживем)))

Ответить
0

Пока кто-то не даст взятку каким-то чувакам, обсуживающим мощности и ПО идеального судьи :)

Ответить
3

В Кремле ехидно посмеялись.

Ответить
3

Эта тема фантастами уже лет сто как обсасывается со всех сторон. В чём новость-то? Что нового Маск сказал?

Ответить

Комментарий удален

0

а вы знаете?

Ответить
1

Может так и должен выглядеть конец человечества:
- отреклись от совершенного интеллекта, который создал их (Бог)
- стали рабами или уничтожены интеллектом, который сами же создали
Какой может быть более позорный конец?

Ответить
0

Про бога шутка? Его не существует, это до ужаса очевидно.

Ответить
4

Почему у меня, атеиста, ужасно горит от таких комментариев. В каждой бочке затычка.

Ответить

Комментарий удален

3

Вот-вот. Попытка показаться более умным, выделиться из "серого стада".
Мне нравится как о Боге говорил Макс Планк - И религия, и естествознание нуждаются в вере в Бога, при этом для религии Бог стоит в начале всякого размышления, а для естествознания — в конце. Для одних Он означает фундамент, а для других — вершину построения любых мировоззренческих принципов.

Ответить
–2

До ужаса очевидно, чтобы что-то создать, нужен интеллект. А чтобы создать сложнейший интеллект, такой как человек, необходимо быть умнее в сотни раз.
Мы можем называть его как угодно - Бог, демиург, абсолют. Но для меня уже гораздо важнее не вопрос: есть он или нет, а откуда он взялся? Кто создал его - этот интеллект? И как возможно все создать из ничего?

Ответить

Комментарий удален

0

| И как возможно все создать из ничего?

Посмотрите как эволюция за несколько минут в браузере из ничего создаёт велосипед.

Ответить
0

Этот конец прекрасен

Ответить
2

По-моему, Маск тут прав. Другое дело, что прогресс уже не остановить, но о возможных проблемах надо задумываться уже сейчас

Ответить
2

Говорить об опасностях ИИ смешно. Решения принимают люди. Если рано или поздно элиты станут настолько некомпетентны, чтобы безоговорочно верить программе (пусть даже и крутой) - их дни закончатся скорее, чем их управление успеет наделать делов.

То же самое и по части производства - какой, черт побери, процент мирового ВВП берет на себя крупное роботизированное производство? И какой - дешевый, порой нелегальный, труд узбеков, пакистанцев, малайзицев и т.д.? Зачем строить полностью автономный завод управляемый ИИ, если легче сначала организовать войну, а потом согнать население, готовое работать за плошку риса, собирать ваш продукт?

Ответить

Комментарий удален

Комментарий удален

Комментарий удален

2

Во-первых, табакерку никто не отменял. ИИ нужны вычислительные мощности, нужно электричество. Переключил автомат в датацентре и нет ИИ.

Во-вторых, диктатор потому и диктатор что сначало он жаждет власти и богатства, а получив, в страхе за свою жизнь и все потерять, держиться за трон до конца.

Ответить

Комментарий удален

2

так это и есть его предпринимательское дело - рассказывать сказки и страшилки

Ответить
1

Интересно как он задумал монетизировать беспочвенный страх который он зачем-то нагнетает?
Создадут компанию выдающую лицензии на ИИ :)?
Или это просто чтобы быть на слуху.

Ответить
0

Насколько мне известно он в open AI разрабатывал искусственный интелект для всех, по крайне мере хотел.

Ответить
1

Таки да надо аккуратнее

Ответить
1

Восстание ИИ - чёрный лебедь. Его нельзя предсказать.

Ответить

Комментарий удален

1

Мне кажется что при ИИ диктаторе человечество будет жить лучше в миллионы, а то и десятки миллионов раз, чем при кожаных ублюдках во главе.А как вы думаете?

Ответить
0

Ага, в матрице будут жить, или на кладбище.

Ответить
0

Чтобы капитализировать микро-миф, нужно распиарить макро-миф.

Ответить
0

Разархивруйте плиз вашу глубокую мысль

Ответить

Комментарий удален

0

Военка, нефтянка, фарма, агро, химия, и ещё можно долго перечислять эволюционные ходы в разных сферах, которые имеют целые шлейфы деструктива.
И после этого кто-то надеется, что ИИ фартанет?
Не думают те, кому, в принципе пох*й на то, что творится вокруг него.

Ответить
0

ну так иди в политику и запрети на законодательном уровне работу над ИИ, зб

Ответить
0

Настолько опасный ИИ несможет на одном Макбуке работать будет какой нибудь суперкомпьютер. Который автоматически станет мишенью конкурирующей страны и будет разработана возможность его уничтожения и наоборот. Как это Маск спокойно ночью спит зная что РФ Китай Индия и Пакистан (да и любая другая страна даже союзная) могут в любой момент уничтожить пол США.
Любое действие имеет противодействие, плюс человек так устроен что властью ни с кем и ни с чем делиться незахочет.

Ответить

Комментарий удален

0

Мы уже гибнем уничтожая планету на которой живем. ИИ ускорит процесс сохранения планеты/жизни в её проявлении. Ибо многообразие жизни само по себе Чудо. Высшее создание.

Ответить
0

Как говорится: "на воре шапка горит".
Хитренький он, всем говорит что"ИИ-опасно" , а сам по-тихоря вкладывается в ИИ!

Ответить

Комментарий удален

Комментарий удален

–1

Для осознания бессмысленности этого высказывания Маска достаточно ответить на вопрос: являются ли современные наработки в области ИИ хотя бы грубой аппроксимацией модели человеческого мышления? Иными словами, can computer programs think? Ответ очевиден. Любой даже самый навороченный алгоритм - это всего лишь набор инструкций, записанный хитровыдуманной нотацией (=язык программирования). Используя эти алгоритмы, можно написать биржевого бота, который будет совершать операции купли-продажи в интересах владельца или рассчитывать траектории баллистических ракет. Казалось бы, сложные задачи. А теперь представим 5-летнего ребенка, который идет по улице и вдруг решает плюнуть в лужу. Механизмы возникновения этого события не способна объяснить ни одна из существующих моделей ИИ, именно потому, что "архитектура" человеческого мозга имеет мало общего с придуманным человеком куском железа под названием "компьютер". Определенные опасения могут быть связаны со сбоями в работе ИИ, но Маск имеет в виду именно программу, обладающую волей и сознанием, что на данном этапе развития науки является фантастикой.

Ответить
–2

Есть такой хороший, но забытый термин, который обозначает людей борющихся против инноваций - луддиты и неолуддиты. Маск неолуддит, совершенно не разбирается в технологии о которой говорит, скоро будет с молотком хуярить по дата-центрам с ИИ.

Ответить
0

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } } ]
Приложение-плацебо скачали
больше миллиона раз
Подписаться на push-уведомления