Крестный отец ИИ рассказал, что он боится, что технология однажды может захватить человечество

Джеффри Хинтон приветствует преимущества искусственного интеллекта, но также бьет тревогу по поводу таких вещей, как автономные боевые роботы, фейковые новости и непреднамеренная предвзятость в сфере занятости и работы полиции.

Джеффри Хинтон, которого называли «Крестным отцом искусственного интеллекта», в программе « 60 минут » для воскресного эпизода, рассказывает о том, что технология искусственного интеллекта может означать для человечества в ближайшие годы, как хорошее, так и плохое.

Хинтон — британский ученый-компьютерщик и когнитивный психолог, наиболее известный своими работами над искусственными нейронными сетями, также известными как основа искусственного интеллекта. Он проработал десять лет в Google, прежде чем уйти в мае этого года, ссылаясь на опасения по поводу рисков, связанных с искусственным интеллектом.

Подчеркнув последние опасения по поводу ИИ для создания сегмента, Пелли начал вопросы и ответы с Хинтоном, спросив его, знает ли человечество, что оно делает.

«Нет», — ответил Хинтон. «Я думаю, что мы вступаем в период, когда впервые в истории у нас есть существа, более разумные, чем мы сами».

Хинтон подробно рассказал об этом, заявив, что, по его мнению, самые продвинутые системы искусственного интеллекта способны понимать, разумны и могут принимать решения на основе собственного опыта. На вопрос, обладают ли системы искусственного интеллекта сознанием, Хинтон ответил, что из-за нынешнего отсутствия самосознания они, вероятно, нет, но этот день обязательно наступит. И он согласился с мнением Пелли о том, что, следовательно, люди станут вторыми по интеллекту существами на планете.

После того, как Хинтон выдвинул идею о том, что системы искусственного интеллекта могут обучаться лучше, чем человеческий разум, Пелли задался вопросом, почему, поскольку искусственный интеллект был разработан людьми — мнение, которое Хинтон исправил.

«Нет, это не так. Мы разработали алгоритм обучения. Это немного похоже на разработку принципа эволюции», — сказал Хинтон. «Но когда этот алгоритм обучения затем взаимодействует с данными, он создает сложные нейронные сети, которые хорошо справляются со своими задачами. Но мы не совсем понимаем, как именно они это делают».

Роботы в лаборатории искусственного интеллекта Google были запрограммированы просто на то, чтобы забивать гол. С помощью ИИ они научились играть в футбол.(CBS)

Хинтон сказал, что некоторые из огромных преимуществ ИИ уже были замечены в здравоохранении, благодаря его способности распознавать и понимать медицинские изображения, а также разрабатывать лекарства. Это одна из главных причин, по которой Хинтон смотрит на свою работу так позитивно.

«У нас есть очень хорошее представление о том, что он делает», — сказал Хинтон о том, как системы ИИ обучаются сами. «Но как только все становится по-настоящему сложным, мы на самом деле не знаем, что происходит, так же, как не знаем, что происходит в вашем мозгу».

Это мнение было лишь верхушкой айсберга опасений, связанных с искусственным интеллектом, и Хинтон указал на один большой потенциальный риск по мере того, как системы становятся умнее.

«Один из способов, которым эти системы могут выйти из-под контроля, — это написание собственного компьютерного кода для самомодификации. И это то, о чем нам нужно серьезно беспокоиться», — сказал он.

Хинтон добавила, что по мере того, как ИИ получает все больше и больше информации из таких вещей, как известные художественные произведения, предвыборные медиа-циклы и все, что между ними, ИИ будет все лучше и лучше манипулировать людьми.

«Я думаю, что через пять лет они вполне смогут рассуждать лучше, чем мы», — сказал Хинтон.

А это означает такие риски, как автономные боевые роботы, фейковые новости и непреднамеренная предвзятость в сфере занятости и работы полиции. Не говоря уже о том, сказал Хинтон, что «наличие целого класса безработных людей не особо ценится, потому что то, что они делали раньше, теперь делают машины».

Хинтон сказала, что это может стать своего рода поворотным моментом, когда человечеству, возможно, придется столкнуться с решением о том, развивать ли эти вещи дальше и как люди должны «защитить себя», если они это сделают.

«Я думаю, что мой главный посыл заключается в том, что существует огромная неопределенность относительно того, что произойдет дальше», - сказал Хинтон. «Эти твари понимают, и поскольку они понимают, нам нужно хорошенько подумать о том, что будет дальше, а мы просто не знаем».

Пелли сообщил, что Хинтон сказал, что он не сожалеет о проделанной работе, учитывая потенциал ИИ во благо, но сейчас настало время провести больше экспериментов с ним, чтобы понять, ввести определенные правила и заключить всемирный договор, запрещающий использование военных сил.

Надеюсь вам понравилась статья.

Так же, у меня есть свой канал, в котором я размещаю интересные новости, обзоры и сервисы по нейросетям и искусственному интеллекту, которые помогают в работе и жизни. Если вам интересна эта тема, буду рад вас там видеть -

#ии #иибудущее #будущее #искусственныйинтеллект #нейросети #крестныйотец #разработка #машины #роботы #интеллект #google #хинтон #