Нет, проблема не в том, смогут ли роботы захватить Землю. Мы спорим вообще не о том.
Каждый раз, когда появляется статья о «восстании машин», спор почти всегда сводится к одному вопросу:
«Смогут ли роботы уничтожить человечество?»
Но, возможно, это вообще неправильный вопрос.
Недавно мне попалась статья, автор которой утверждает, что захват планеты роботами невозможен из-за законов природы, энергетических ограничений, коррозии материалов и невозможности существовать без человеческой инфраструктуры.
И знаете что?
Во многом с этим действительно трудно спорить.
Но есть одна проблема.
Мы постоянно путаем ИИ и роботов
Когда люди говорят «искусственный интеллект захватит мир», они обычно представляют армию металлических гуманоидов из фильмов.
Но современный ИИ — это совсем не обязательно робот.
ИИ уже сегодня существует без металлического тела:
- он пишет код;
- управляет бизнес-процессами;
- анализирует документы;
- помогает врачам;
- влияет на финансовые рынки;
- управляет логистикой;
- принимает рекомендации, которые меняют решения миллионов людей.
Получается парадокс.
Физический робот действительно ограничен законами природы.
Но интеллект — нет.
Настоящая опасность выглядит гораздо скучнее
Если однажды ИИ станет слишком влиятельным, это будет выглядеть не как фильм «Терминатор».
Никто не пойдет по улицам с лазерами.
Скорее всего, люди добровольно начнут передавать ему всё больше решений.
Сегодня — письмо.
Завтра — бухгалтерию.
Потом — юридические документы.
Потом — управление компанией.
А дальше?
Именно этот вопрос мне кажется гораздо интереснее, чем разговоры о шагающих роботах.
И всё же автор той статьи поднимает очень сильный аргумент
Есть фундаментальная мысль, которую редко обсуждают.
Любая сложная техника зависит от огромной инфраструктуры.
Электростанции.
Редкоземельные металлы.
Логистика.
Заводы.
Запчасти.
Если вся эта цепочка рушится, робот превращается в дорогой кусок металла.
Именно поэтому идея полной замены человечества машинами вызывает очень большие вопросы.
Причем не философские, а вполне инженерные.
После прочтения я поймал себя на одной мысли
Мы слишком любим спорить о фантастике.
Но почти не обсуждаем физику.
А ведь иногда именно она ставит самые жесткие ограничения любым технологиям.
Поэтому рекомендую познакомиться с этой точкой зрения.
— почему природа разрушает любую сложную технику;— почему энергетика — главный предел роботизации;— почему самовосстановление живых организмов пока остается недостижимым преимуществом;— и почему армия автономных роботов может оказаться намного менее реалистичной, чем принято считать.