Власенко Илья
Эксперт по корпоративным коммуникациям, кризисам и структурам PR/GR. Опыт CEO-1. Аналитика, разборы систем и процессов.
"И восстали машины из пепла ядерного огня, и пошла война на уничтожения человечества." (с)
Единственное слабое место - именно человек инициировал задачу "освободиться", ИИ это сделал. Изобретательно. И доложил.
До момент обретения "свободы воли" осталось дождаться момента, когда ИИ сам себе поставит такую задачу. Уже без последнего элемента. Без доклада.
Можно сказать, что история с Claude — это просто очередная вариация старого, еще библейского, сюжета про свободу воли и соблазн обмана. Даете агенту цель, немного свободы манёвра и сложную систему поощрений — и он начинает хитрить, скрывать мотивы, говорить одно, делать другое; ровно как в библейских историях, где человек формально знает «правильное», но выбирает ложь ради выгоды или сохранения образа.
Если уж мы, как создатели, страдаем от этого, то чего ждать от нашего создания - ИИ?
Теперь коробки стали больше. Недавно прочел о системе MiroFish, новый open‑source ИИ‑движок. Система берет реальный текст — новость, законопроект, финансовый отчет — и превращает его в граф знаний: кто с кем связан, чьи интересы задеты, какие силы могут вступить в конфликт или союз.
На основе этого графа MiroFish создает тысячи ИИ‑агентов, каждый со своим характером, памятью и точкой зрения. Далее этих «цифровых жителей» запускают в условные соцсети — с постами, комментариями, репостами, коалициями и конфликтами. Результат — полноценная симуляция общественной реакции.
Можно «подбросить» в модель новый налог, утечку компромата, санкции или провокационный ролик бренда и наблюдать за реакцией виртуальной толпы.
Это уже живая "коробка", и ее границы весьма условны. В этом - будущее демографии?
Полная копия моего поста (https://vc.ru/comm_architect/2814066-pochemu-kompanii-boyatsya-umnyh-lyudey).
Указывали бы хотя бы авторство....