Илон Маск в очередной раз предупредил об опасности искусственного интеллекта Статьи редакции
Высказывание прозвучало в документальном фильме Криса Пейна «Доверяешь ли ты этому компьютеру». «Наименее страшное будущее, о котором я могу думать, — это то, в котором мы, по крайней мере, демократизировали ИИ, потому что если одна компания или небольшая группа людей сумеют развить богоподобный цифровой суперинтеллект, они смогут захватить мир», — говорит Маск.
В фильме рассказывается о нескольких примерах использования искусственного интеллекта, включая автономное оружие, финансовые технологии и новостные алгоритмы.
0
показов
14K
открытий
В среде людей которые занимаются именно разработкой ИИ подобных страхов нету и не будет, нет оснований для таких страшилок, вообще. Но Маск человек от ИИ далёкой, он физик, предприниматель, а не исследователь. Очень странные вещи говорит про ИИ постоянно, как будто бы хочет замедлить прогресс. Не понимаю зачем.
Маск мыслит на десятилетия вперёд. А защитники ИИ мыслят на 1-2 года вперёд.
Разумеется в 2020-м от ИИ не будет никакой угрозы, а как насчёт 2050-го?
Комментарий удален модератором
Учитывая скорость развития нейронных сетей, скорее всего человечества не будет к 2050 году, а железяки то останутся.
Маск хороший пример кстати приводил, что какой нибудь робот-трейдер может спровоцировать ядерную войну чтобы просто успешно торгануть акциями.
Фишка в том, что программисты не видят какие именно алгоритмы содержатся внутри слоёв нейронов. Так что это вполне реальный сценарий для 2040-х годов.
Комментарий удален модератором
Прогресс в сфере железа медленный, т.к. нужно строить заводы, создавать новые материалы и т.п. Но в сфере математических алгоритмов и программирования он гораздо быстрее. ИИ который нас уничтожит - это не терминатор с горящими глазами, а обычный дата-центр в подвале с неправильно обученой нейросетью (т.е. на самом деле с правильно обученной, просто с небольшим багом в виде уничтожения человечества).
Да? Когда заговорили об искусственных нейронных сетях? В 1943 году. С того времени, смогли ли мы создат ИИ, который не то что нас уничтожит, а способен на что-то большее чем отличить хот дог от не хот дога?
Даже те же автономные авто это не только нейронки. Это куча другого разного стаффа, который никак не ведет к появленияю интеллекта.
Правильно, 70 лет делали железяки, а алгоритмы смогли придумать в разы быстрее.
Недавнее ДТП со сгоревшим водителем за рулём теслы - это пример уничтожения человечества в миниатюре. Как-то обученная нейросеть решила что для человека будет лучше всего въехать в отбойник.
Точно так же какая нибудь нейросеть торгующая акциями решит что ядерная война поднимет цену акций до небес.
Но зачем обычной программе придавать какую-то личность? Извините, но фен может человека убить, если упадет в воду, так что, теперь войну фенам объявлять?
То, что вы привели в пример говорит об ошибках человека, который неправильно воспользовался технологией. Смерть водителя Теслы это не скрытая злоба нейросети на человека, а ошибка ее создателя. Если бы это была не нейросеть, а что-то другое, то это тоже была бы ошибка создателя.
70 лет делали железяки и за 70 лет теоретическая база не продвинулась радикально. Скорее железяки продвинулись больше и обеспечили подъем технологии. Почитайте про то, сколько "зим" пережила сфера ИИ.
Учась по обмену полтора года назад в Германии я неприятно удивился, когда в курсе "Искусственный Интеллект" мы по большей степени изучали алгоритмы поиска.