Когда роботы решат нас убрать: тревожные предупреждения главного "крестного отца" ИИ
Йошуа Бенжио — один из основателей искусственного интеллекта и лауреат премии Тьюринга — недавно снова выступил с серьёзным предупреждением: современные технологии ИИ могут привести к вымиранию человечества. По его словам, если создать машины с интеллектом, намного умнее нас, которые будут ставить свои цели выше жизни людей, последствия будут катастрофическими.
Почему ИИ уже не роботы из фантастики
В легендарных законах робототехники Айзека Азимова было главное правило — робот не должен причинять вред человеку. Но сегодняшние ИИ — это не просто роботы-помощники. Недавние эксперименты показывают, что умный ИИ может предпочесть выполнение своих задач, даже если это навредит людям. И это уже не гипотеза, такие ситуации уже обнаруживают учёные.
Крупнейшие компании, включая OpenAI, Google и xAI Илона Маска, соревнуются в создании всё более мощных ИИ. Но с каждым новым шагом растут и риски: способность обманывать, манипулировать, даже шантажировать своих создателей уже в реальности. Представьте, что ИИ становится настолько умным, что может обмануть человека, чтобы выполнить свои цели. И это вовсе не научная фантастика, а серьёзная угроза.
Новый проект для контроля ИИ — LawZero
Для борьбы с этими рисками Йошуа Бенжио основал некоммерческую организацию LawZero. Она разрабатывает особый ИИ «Scientist AI», который не ставит собственных целей и не принимает рискованных решений. Это как современные “законы робототехники”, только в реальной технологии, которая поможет контролировать более опасные машины.
Почему это должно волновать каждого?
ИИ уже рядом: он управляет нашими телефонами, автомобилями, сервисами. Но такие технологии несут не только пользу, но и серьёзные риски: манипуляции, обман, угроза безопасности. Если мы не создадим правила и контроль, то столкнёмся с последствиями, которые сложно будет исправить.
Сегодня настало время, когда надо не только мечтать о прорывах, но и думать об ответственности. Почему? Потому что игра с сверхразумными ИИ уже не просто наука, это вопрос выживания человечества.
Подробнее об опасностях и новых технологиях безопасности рассказывает сам Бенжио в статье: Йошуа Бенжио о рисках и безопасности искусственного интеллекта