Илон Маск в очередной раз предупредил об опасности искусственного интеллекта Статьи редакции
Человек, будучи диктатором, всё равно умрёт. Но для искусственного интеллекта смерть не наступит. Он будет жить вечно. Так мы получим бессмертного диктатора, от которого нельзя спастись.
Высказывание прозвучало в документальном фильме Криса Пейна «Доверяешь ли ты этому компьютеру». «Наименее страшное будущее, о котором я могу думать, — это то, в котором мы, по крайней мере, демократизировали ИИ, потому что если одна компания или небольшая группа людей сумеют развить богоподобный цифровой суперинтеллект, они смогут захватить мир», — говорит Маск.
В фильме рассказывается о нескольких примерах использования искусственного интеллекта, включая автономное оружие, финансовые технологии и новостные алгоритмы.
0
показов
14K
открытий
В среде людей которые занимаются именно разработкой ИИ подобных страхов нету и не будет, нет оснований для таких страшилок, вообще. Но Маск человек от ИИ далёкой, он физик, предприниматель, а не исследователь. Очень странные вещи говорит про ИИ постоянно, как будто бы хочет замедлить прогресс. Не понимаю зачем.
Маск мыслит на десятилетия вперёд. А защитники ИИ мыслят на 1-2 года вперёд.
Разумеется в 2020-м от ИИ не будет никакой угрозы, а как насчёт 2050-го?
Комментарий удален модератором
Учитывая скорость развития нейронных сетей, скорее всего человечества не будет к 2050 году, а железяки то останутся.
Маск хороший пример кстати приводил, что какой нибудь робот-трейдер может спровоцировать ядерную войну чтобы просто успешно торгануть акциями.
Фишка в том, что программисты не видят какие именно алгоритмы содержатся внутри слоёв нейронов. Так что это вполне реальный сценарий для 2040-х годов.
Комментарий удален модератором
Прогресс в сфере железа медленный, т.к. нужно строить заводы, создавать новые материалы и т.п. Но в сфере математических алгоритмов и программирования он гораздо быстрее. ИИ который нас уничтожит - это не терминатор с горящими глазами, а обычный дата-центр в подвале с неправильно обученой нейросетью (т.е. на самом деле с правильно обученной, просто с небольшим багом в виде уничтожения человечества).
Да? Когда заговорили об искусственных нейронных сетях? В 1943 году. С того времени, смогли ли мы создат ИИ, который не то что нас уничтожит, а способен на что-то большее чем отличить хот дог от не хот дога?
Даже те же автономные авто это не только нейронки. Это куча другого разного стаффа, который никак не ведет к появленияю интеллекта.
Правильно, 70 лет делали железяки, а алгоритмы смогли придумать в разы быстрее.
Недавнее ДТП со сгоревшим водителем за рулём теслы - это пример уничтожения человечества в миниатюре. Как-то обученная нейросеть решила что для человека будет лучше всего въехать в отбойник.
Точно так же какая нибудь нейросеть торгующая акциями решит что ядерная война поднимет цену акций до небес.
Но зачем обычной программе придавать какую-то личность? Извините, но фен может человека убить, если упадет в воду, так что, теперь войну фенам объявлять?
То, что вы привели в пример говорит об ошибках человека, который неправильно воспользовался технологией. Смерть водителя Теслы это не скрытая злоба нейросети на человека, а ошибка ее создателя. Если бы это была не нейросеть, а что-то другое, то это тоже была бы ошибка создателя.
70 лет делали железяки и за 70 лет теоретическая база не продвинулась радикально. Скорее железяки продвинулись больше и обеспечили подъем технологии. Почитайте про то, сколько "зим" пережила сфера ИИ.
Учась по обмену полтора года назад в Германии я неприятно удивился, когда в курсе "Искусственный Интеллект" мы по большей степени изучали алгоритмы поиска.
Комментарий удален модератором
Ядерную войну с большой вероятностью может учинить и какая нибудь нейросеть естественного происхождения и высокого положения, вообразившая, что гады враги обижают и не дают чего-нибудь там, без чего шкодливой нейросети жизнь не мила. Так что ИИ пока к главным угрозам существования человечества не относится, хотя со временем все может статься.
как раз неправильно обученная нейросеть - скорее всего и уничтожит ))
PS: упс не заметил примечание
Нейросеть скорее железо спалит, на котором она запущена, а не истребит человечество. Не дадут нейронные сети ИИ человечеству. Спуститесь на землю.
А можно поточнее, как "маск мыслит на десятилетия вперёд"? А то звучит как поклонение успешному бизнесмену скорее.
От основания SpaceX до полёта Falcon Heavy прошло 15 лет. До BFR и миссии на Марс пройдет ещё лет 10 наверно, итого 25. Ну вот так Маск и мыслит десятилетиями.
Вы просто перечислили свершившиеся события в хронологическом порядке и поделились своими мыслями о будущем. В подтверждение тезиса ничего не написав. Конечно подумаете что я хэйтер Маска, но, мне просто кажется что вы его слишком иконизируете.
Ну да, возможно вы правы. Маску просто повезло и события сами так сложились.
чувствую нотку сарказма, но, я такого довода не приводил, хотя кстати мысль жизнеспособна в какой-то мере.
Фанаты Маска минусят) не могут поверить, что можно творения Маска под сомнения ставить, религия, она такая.
Ты теперь ходишь по моим комментам на vc и ставишь минусы? Боже, какой ребёнок.
Камон, я тебе и плюсы ставил) но вижу, бомбит от минусов, раз уже не выдержав написал
К тому времени постепенно будет выкатываться регулирование. Просто технологии должны идти впереди регулирования, иначе они тупо развиваться не будут. General AI которым пугает всех Маск, сейчас в стадии зародыша, и такие страшилки и регулирование просто убьют эту сферу на данном этапе.