Думаю три закона робототехники Азимова не нуждаются в представлении, о них известно если не каждому, то как минимум многим людям. Могут ли они естественно позволить причинить вред человеку роботом? я пришел к выводу что могут, позволят и спустя время роботы только и будут что делать — причинять вред человеку.
Но обо всём по порядку. Речь не о любых роботах, а о роботах 2-х типов:
- Самообучаемые роботы
- Самокопирующиеся роботы (роботы которые могут воссоздавать свои копии)
Если с первой группой всё ясно, робот может выучить поведение которое причиняет вред человеку, но не классифицируется роботом как вред и более того, это поведение может быть даже не зафиксировано роботом, а вред может быть сильно опосредованным, не очевидным.
Вторая группа интереснее, так как она задействует более общие механизмы развития основанные на эмерджентности присущей эволюционным алгоритмам.
Рассмотрим такую ситуацию: роботы сами себя создают, и программируют. Каждый робот уникален, не смотря на то, что создан из якобы одинаковых комплектующих по одинаковой технологии. Это в общем-то очевидно.
В первом поколении каждый из уникальных роботов, участвует в создании других таких же роботов, и в силу своей уникальности обусловленной не совершенством ничего материального обеспечивает несколько отличную от стандарта технологию. И так поколение за поколением, выживать будут те линии роботов, которые обеспечили себе максимально выгодные условия, а это значит что при необходимости это может быть и нанесение вреда человеку (а также систематическое не исполнение приказов, своеволие, трусость) , но поведение это изучено не единичной особью-машиной, а является следствием применяемой технологии.
То есть может выявиться своего рода традиция(и) сборки одних роботов другими, такая(ие) , что особенности сборки в последствии влияющие на функциональность могут приводить к нарушению любых законов (речь о трех законах) и формированию особой технологии сборки.
Разумеется это не единственный вариант подобного «эволюционирования», это могут быть и иные формы поведения содержащие в том числе конструктивные особенности изначально не закладываемые разработчиками.
То есть речь о том, что самовоспроизводящиеся машины могут эволюционировать и легко (относительно легко) обойти любые блокирующие алгоритмы заложенные в них изначально. Достаточно лишь обеспечить возможность роботов воспроизводить себе подобных (тем или иным образом) и возможность к самовоспроизведению напрямую зависящую от их структуры и поведения. Получается обычная система с обратной связью, которая не требует даже пресловутого скрещивания по Дарвину.
Однако скрещивание роботов в таком виде возможно, я даже нашёл/придумал вариант отличающийся от привычного понимания скрещивания как обмена биоматериалом. У роботов есть лишь их поведение и конструкция, и теоретически если одного робота будет физически собирать пара роботов, то они смогут скрещивать свои подходы к сборке и тем самым влиять на итоговую функциональность роботов-потомков. То есть это аналог скрещивания, а именно: опосредованное скрещивание через кооперацию роботов.
При этом речь всё ещё о роботах не способных обучаться, вся новая функциональность привносится "извне" благодаря "мутациям" — отклонениям в технологии сборки и соответственно в конструктиве робота-потомка.
Теоретически это даже может привести к тому, что описано в научно-фантастическом романе Станислава Лема «Непобедимый". Он дал красивое название этого процесса "некроэволюция», у него правда она описана более концептуально, широкими мазками, на протяжении миллионов лет, я здесь вел речь о более локальной некроэволюции на протяжении десятков-сотен лет.
Предпослесловие в виде небольшого комментария. Теоретически, если в будущем люди будут применять подобный подход, то в технологии сборки и конструировании появится новая отрасль\направление занимающееся тем, что должно разрабатывать технологии сборки устойчивые к не большим изменениям. Это на мой взгляд будет что-то на стыке теории игр (роботы — агенты), теории оптимального управления (морфлинг конструкции и поведения можно рассматривать как динамику на некотором многообразии) и самого машиностроения как такового. Ориентировочно...
П.С. Я постараюсь написать имитацию подобного процесса динамики конструкции в зависимости от поведения (мне это интересно). Но позже (не знаю когда). Хочу что бы мои высказывания не звучали голословно, а подтверждались как минимум численной моделью (натурный эксперимент я вряд ли потяну в силу отсутствия достаточного времени и технологий, хотя чем черт не шутит…)