Элон Маск предупредил об опасности развития ИИ после заявления Путина о его мировой значимости Статьи редакции
Основатель Tesla и SpaceX Элон Маск обратил внимание на заявление президента России Владимира Путина о том, что искусственный интеллект — это будущее человечества. Предприниматель предупредил, что разработки в этой области могут привести к началу Третьей мировой войны.
Маск обратил внимание на заявление Путина после того, как его слова перепечатали зарубежные СМИ, например, The Verge. «Началось», — написал предприниматель в Twitter.
China, Russia, soon all countries w strong computer science. Competition for AI superiority at national level most likely cause of WW3 imo.
Глава Tesla не исключил, что война может быть инициирована не лидерами конкретных стран, а искусственным интеллектом, если он «решит, что превентивный удар — это наиболее вероятный путь к победе».
Путин рассказал о необходимости развития искусственного интеллекта 1 сентября на встрече с российскими школьниками в Ярославле. По словам президента, за этой сферой стоит будущее как России, так и всего человечества.
Тот, кто станет лидером в этой сфере, будет властелином мира. И очень бы не хотелось, чтобы эта монополия была сосредоточена в чьих-то конкретных руках, поэтому мы, если мы будем лидерами в этой сфере, также будем делиться этими технологиями со всем миром, как мы сегодня делимся атомными и ядерными технологиями.
В августе более 100 руководителей технологических компаний, в том числе Маск, подписали обращение к ООН с просьбой начать регулировать производство автономного оружия на базе искусственного интеллекта.
В июле Маск заочно поспорил об опасности искусственного интеллекта с Марком Цукербергом. Глава Facebook назвал «безответственными» заявления Маска об угрозе развития ИИ для человечества. Глава Tesla, в свою очередь, заявил, что у Цукерберга «ограниченное понимание темы».
Удивляют комментаторы, которые считают интеллектом нейросети, распознающие собачек на картинке или накладывающие усы в приложении.
Интеллект - это способность приспосабливаться к меняющимся условиям, способность к обучению, запоминанию, воображению, постановке себе задач и реализации попыток их решить.
Искусственный интеллект будет обладать как минимум следующими отличиями от человеческого:
- способность учиться с возрастающей скоростью. Скорость обучения может быть колоссальной т.к. один элемент ИИ, например, ходячий робот, будет обучать всю остальную систему. То есть, если один робот научился бегать по песку, все остальные научатся этому просто путем загрузки информации от первого. И так во всем.
- отсутствие потерь информации в результате забывания, смерти и пр.;
- бесконечно длительное развитие.
Таким образом, через какое-то время человек неизбежно потеряет над ним контроль, поскольку не сможет осознавать происходящее, а ИИ сможет легко маскировать свои замыслы.
И вот здесь и возникает вопрос - а что надумает ИИ? Как он будет к нам относиться? Какие критерии станут для него важными? Какие цели он перед собой поставит? И какое место в этих целях будет уготовано людям?
Возможно он будет выращивать нас для подключения через нейро-интерфейс для решения определенных задач. Как мы сейчас используем видеокарты для игр и майнинга. Возможно, наш мозг сможет делать что-то более эффективно, чем микросхемы с ПО.
А если нет?
ИИ и нейросеть одно и тоже, просто на данный момент нейросетки на уровне попугая. Однако были эксперименты Microsoft, когда они ИИ ввели в твиттер и сказали учиться. Через 24 часа он стал нацистом, расистом, фенистом и начал всех оскорблять))
Разумеется, нейросеть и ИИ - не одно и то же. С этого и начинается мой комментарий.
Вы это сказали и начали описывать нейросеть, которая симулирует работу нейронов головного мозга. Нейросеть умеет приспосабливаться к изменениям, например Гугловская нейросеть прекрасно оптимизирует Adwords. Скорость обучение просто растет по экспоненте по отношению к количеству поглощенных данных, тк в отличие от человека она ничего не забывает. Общая децентрализованная сеть никак не противоречит понятию Нейросети, тк уже сейчас голосовые помощники типа Alexa, Cortana, и даже Skype (для синхронного перевода) так и учатся.
Цели они себе тоже сами ставят и экспериментируют со способами достижения?
Поясните, что имеете ввиду под ростом скорости обучения нейросети по экспоненте? Можно пример?
Чем больше данных обработано, тем лучше и быстрее усваиваются новые данные. Ровно так же работает человеческий мозг. Чем больше языков Вы учите, тем проще и быстрее учить новый.
Цель машина не может изначально себе поставить и никогда не поставит. Изначально направление ей задаст человек, а потом выйдет из под контроля все. Например, если дать задачу автопилоту обеспечить безопасность водителя, то он может начать убивать других ради этого (см. иллюстрацию в сериале "Рик и Морти" 2 сезон, 6 серия).
Разумеется может случить баг, когда случайно "помощник" обретет самосознание (см. пример в фильме "Космическая одиссея").
Все варианты возможны, тк нейросеть подвержена такому же эволюционному развитию, как и биологические виды.
Про цель можно добавить, что дети, которые вырастают в джунглях и живут среди зверей лишены какой-либо цели и руководствуются инстинктами. Все жизненные цели это результат совокупности факторов влияния социума.
| нейросеть, которая симулирует работу нейронов головного мозга
Нейросеть - это геометрическая задача перемещения точки в многомерном пространстве. Система линейных уравнений, где методом "обучения" подбираются/подкручиваются коэффициенты. Забудьте этот бред, что нейросеть имеет отношение к живым нейронам.
https://medium.freecodecamp.org/how-to-create-a-neural-network-in-javascript-in-only-30-lines-of-code-343dafc50d49
В смысле что данных нужно экспоненциально много? У вас не там экспонента:)