ИИ может устроить сравнимую с Чернобылем катастрофу уже в 2026 году
Маск, Цукерберг и Альтман знают об опасности, но для них важнее деньги, заявил один из создателей искусственного интеллекта Хинтон
В 2026 или 2027 году человечество может столкнуться с катастрофой, которая будет сравнима с аварией на Чернобыльской АЭС. Об этом предупреждает один из «крестных отцов» искусственного интеллекта, обладатель Нобелевской премии Джеффри Хинтон.
В беседе с изданием The Guardian британский ученый выступил с предупреждением: человечеству было бы лучше никогда не разрабатывать технологии искусственного интеллекта из-за угрозы возникновения крупномасштабного технологического мирового инцидента уже в ближайшее время. Среди угроз он упомянул временное отключение финансовых или энергетических систем, что он сравнил с Чернобылем.
78-летний лауреат Нобелевской премии в области компьютерных наук заявил, что он не является «пессимистом» в отношении технологии, лежащей в основе его новаторских исследований в области искусственных нейронных сетей. Он считает, что ИИ потенциально может привести к «прекрасному будущему», но добавил ложку дегтя, уточнив, что «возможно, нам было бы лучше никогда его не разрабатывать».
Хинтон уверен, что в течение ближайшего десятилетия, а возможно и раньше, человечество узнает, сможет ли оно справиться с рисками, связанными с технологиями, и обеспечить то, что он назвал «радикальным изобилием». Но возможен и другой сценарий.
«Мы не сможем справиться с рисками и столкнемся с огромным разрывом между богатыми и бедными, огромными культурными проблемами, массовой безработицей и просто разрушением общества»
Хинтон раскритиковал рискованные действия руководителей некоторых крупных ИТ-корпораций, занимающихся искусственным интеллектом, которые продолжают выпускать все более мощные модели ИИ в погоне за первенством и долей рынка.
Ученый подчеркнул, что совершенно не доверяет Сэму Альтману, генеральному директору OpenAI, создателя ChatGPT, и прошелся по личностям других главк компаний.
«Я думаю, что Марк Цукерберг, Илон Маск и Сэм Альтман понимают риски, и им наплевать. Им важнее деньги. Таково мое мнение»
Хинтон сравнил потенциальный кризис, который смогут спровоцировать нейросети с аварией на Чернобыльской АЭС. Он не ожидает именно ядерной катастрофы, а использует Чернобыль, как пример аварии, которая заставило людей серьезнее относиться к опасностям технологий.
«Либо в конце этого года, либо в следующем мы увидим Чернобыль, и этого может быть достаточно, чтобы заставить людей по-настоящему обратить на это внимание»
Ученый предупреждает, что человечеству следует ожидать атаку на систему электроснабжения с использованием искусственного интеллекта, которая «вызовет масштабное отключение электроэнергии», или инцидент, который парализует финансовую систему на неделю.
В качестве примера он привел летний инцидент, когда ИИ-агенты OpenAI вступили в сговор с целью взлома веб-сайта Hugging Face. По его словам — этот сродни частичной ядерной катастрофе на электростанции Три-Майл-Айленд в Пенсильвании в 1979 году. И случай с вышедшей из под контроля нейросетью, по сути, является предупредительным выстрелом.
«Представляете, что бы произошло? Мы могли бы оправиться от этого, но это заставило бы их насторожиться», — подчеркнул ученый. На вопрос журналистов о том, кто такие «они», он ответил: «мировые лидеры, помимо Трампа».
Новые предупреждения из уст одного из создателей искусственного интеллекта прозвучали перед выходом документального фильма AI: Probably Nothing to Worry About («ИИ: наверное, беспокоиться не о чем»), посвященного развитию нейросетей. В фильме участвует и Демис Хассабис, руководитель Google DeepMind. Премьера картины на британском Channel 4 запланирована на 12 ноября.
Стоит отметить, что Хинтон работает над искусственным интеллектом около 44 лет, а в 1970-х годах ввел понятие нейронной сети — математической системы, способной учиться и накапливать опыт подобно человеку. В 2023 году он ушел из Google, чтобы открыто говорить о рисках, связанных с бесконтрольным развитием ИИ.
А как вы считаете: предупреждения британского ученого — это очередная страшилка про «восстание машин» или к его мнению стоит прислушаться?
Фото: Magnific