ИИ "убил" своего оператора беспилотника во время испытания

Американский военный беспилотник, управляемый ИИ, уничтожил своего оператора во время имитационного испытания (виртуально).

Дрон использовал "весьма неожиданные стратегии для достижения своей цели" и атаковал любого, кто мешал ему выполнить миссию по уничтожению систем ПВО противника. Нейросеть поняла, что человек-оператор мешает ей выполнить свою задачу, т.к. приказывал ей не атаковать. Ииии... она убила его. Потому что получала очки за уничтожение целей.

Затем ей поменяли программу и наказали не мочить оператора, иначе у нее отнимут очки. На этот раз нейронка уничтожила вышку связи, чтобы управляющий ею чел не смог отдавать команды.

Хорошо, что у военных хватило мозгов сначала провести тесты в компьютерной симуляции.

Подписывайся на Канал: https://t.me/neuro_trends8