Илон Маск в очередной раз предупредил об опасности искусственного интеллекта Статьи редакции
Высказывание прозвучало в документальном фильме Криса Пейна «Доверяешь ли ты этому компьютеру». «Наименее страшное будущее, о котором я могу думать, — это то, в котором мы, по крайней мере, демократизировали ИИ, потому что если одна компания или небольшая группа людей сумеют развить богоподобный цифровой суперинтеллект, они смогут захватить мир», — говорит Маск.
В фильме рассказывается о нескольких примерах использования искусственного интеллекта, включая автономное оружие, финансовые технологии и новостные алгоритмы.
0
показов
14K
открытий
В среде людей которые занимаются именно разработкой ИИ подобных страхов нету и не будет, нет оснований для таких страшилок, вообще. Но Маск человек от ИИ далёкой, он физик, предприниматель, а не исследователь. Очень странные вещи говорит про ИИ постоянно, как будто бы хочет замедлить прогресс. Не понимаю зачем.
Маск мыслит на десятилетия вперёд. А защитники ИИ мыслят на 1-2 года вперёд.
Разумеется в 2020-м от ИИ не будет никакой угрозы, а как насчёт 2050-го?
Комментарий удален модератором
Учитывая скорость развития нейронных сетей, скорее всего человечества не будет к 2050 году, а железяки то останутся.
Маск хороший пример кстати приводил, что какой нибудь робот-трейдер может спровоцировать ядерную войну чтобы просто успешно торгануть акциями.
Фишка в том, что программисты не видят какие именно алгоритмы содержатся внутри слоёв нейронов. Так что это вполне реальный сценарий для 2040-х годов.
Комментарий удален модератором
Прогресс в сфере железа медленный, т.к. нужно строить заводы, создавать новые материалы и т.п. Но в сфере математических алгоритмов и программирования он гораздо быстрее. ИИ который нас уничтожит - это не терминатор с горящими глазами, а обычный дата-центр в подвале с неправильно обученой нейросетью (т.е. на самом деле с правильно обученной, просто с небольшим багом в виде уничтожения человечества).
Да? Когда заговорили об искусственных нейронных сетях? В 1943 году. С того времени, смогли ли мы создат ИИ, который не то что нас уничтожит, а способен на что-то большее чем отличить хот дог от не хот дога?
Даже те же автономные авто это не только нейронки. Это куча другого разного стаффа, который никак не ведет к появленияю интеллекта.
Правильно, 70 лет делали железяки, а алгоритмы смогли придумать в разы быстрее.
Недавнее ДТП со сгоревшим водителем за рулём теслы - это пример уничтожения человечества в миниатюре. Как-то обученная нейросеть решила что для человека будет лучше всего въехать в отбойник.
Точно так же какая нибудь нейросеть торгующая акциями решит что ядерная война поднимет цену акций до небес.
Ядерную войну с большой вероятностью может учинить и какая нибудь нейросеть естественного происхождения и высокого положения, вообразившая, что гады враги обижают и не дают чего-нибудь там, без чего шкодливой нейросети жизнь не мила. Так что ИИ пока к главным угрозам существования человечества не относится, хотя со временем все может статься.