В ИИ-агентах крайне опасны три особенности их работы. Это доступ к личным данным; возможность отправлять сообщения и файлы вовне; подверженность ненадёжному контенту от третьей стороны. Большие языковые модели (БЯМ, LLM) пока не умеют сортировать важность команд по источнику и лишь следуют инструкциям в тексте. Как обезопаситься? Использовать рабоч…