Элон Маск предупредил об опасности развития ИИ после заявления Путина о его мировой значимости
Основатель Tesla и SpaceX Элон Маск обратил внимание на заявление президента России Владимира Путина о том, что искусственный интеллект — это будущее человечества. Предприниматель предупредил, что разработки в этой области могут привести к началу Третьей мировой войны.
Маск обратил внимание на заявление Путина после того, как его слова перепечатали зарубежные СМИ, например, The Verge. «Началось», — написал предприниматель в Twitter.
Глава Tesla не исключил, что война может быть инициирована не лидерами конкретных стран, а искусственным интеллектом, если он «решит, что превентивный удар — это наиболее вероятный путь к победе».
Путин рассказал о необходимости развития искусственного интеллекта 1 сентября на встрече с российскими школьниками в Ярославле. По словам президента, за этой сферой стоит будущее как России, так и всего человечества.
Тот, кто станет лидером в этой сфере, будет властелином мира. И очень бы не хотелось, чтобы эта монополия была сосредоточена в чьих-то конкретных руках, поэтому мы, если мы будем лидерами в этой сфере, также будем делиться этими технологиями со всем миром, как мы сегодня делимся атомными и ядерными технологиями.
В августе более 100 руководителей технологических компаний, в том числе Маск, подписали обращение к ООН с просьбой начать регулировать производство автономного оружия на базе искусственного интеллекта.
В июле Маск заочно поспорил об опасности искусственного интеллекта с Марком Цукербергом. Глава Facebook назвал «безответственными» заявления Маска об угрозе развития ИИ для человечества. Глава Tesla, в свою очередь, заявил, что у Цукерберга «ограниченное понимание темы».
Мне кажется кто-то пересмотрел терминатора и путает интеллект с разумом. Интеллект - инструмент анализа и восприятия. Ему не обязательно иметь самосознание.
А для создания угрозы самосознание и не обязательно, важнее доступ к красным кнопкам.
Кто-то придумал собственные определения терминам и решил поумничать :)
https://ru.wikipedia.org/wiki/%D0%98%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82
Удивляют комментаторы, которые считают интеллектом нейросети, распознающие собачек на картинке или накладывающие усы в приложении.
Интеллект - это способность приспосабливаться к меняющимся условиям, способность к обучению, запоминанию, воображению, постановке себе задач и реализации попыток их решить.
Искусственный интеллект будет обладать как минимум следующими отличиями от человеческого:
- способность учиться с возрастающей скоростью. Скорость обучения может быть колоссальной т.к. один элемент ИИ, например, ходячий робот, будет обучать всю остальную систему. То есть, если один робот научился бегать по песку, все остальные научатся этому просто путем загрузки информации от первого. И так во всем.
- отсутствие потерь информации в результате забывания, смерти и пр.;
- бесконечно длительное развитие.
Таким образом, через какое-то время человек неизбежно потеряет над ним контроль, поскольку не сможет осознавать происходящее, а ИИ сможет легко маскировать свои замыслы.
И вот здесь и возникает вопрос - а что надумает ИИ? Как он будет к нам относиться? Какие критерии станут для него важными? Какие цели он перед собой поставит? И какое место в этих целях будет уготовано людям?
Возможно он будет выращивать нас для подключения через нейро-интерфейс для решения определенных задач. Как мы сейчас используем видеокарты для игр и майнинга. Возможно, наш мозг сможет делать что-то более эффективно, чем микросхемы с ПО.
А если нет?
Коллега, я думаю, всё говорит о необходимости срочного проведения Межгалактического шахматного конгресса
ИИ и нейросеть одно и тоже, просто на данный момент нейросетки на уровне попугая. Однако были эксперименты Microsoft, когда они ИИ ввели в твиттер и сказали учиться. Через 24 часа он стал нацистом, расистом, фенистом и начал всех оскорблять))
Это как в mass effect, любая развитая цивилизация в конечном счете создает ИИ, который уничтожает ее.