Исследование Anthropic: векторы личности ИИ

✦ Anthropic обнаружили нейронные паттерны persona vectors, которые позволяют отслеживать и контролировать черты характера моделей

✦ Векторы "личности" позволяют гибко менять такие черты как злость, лесть или склонность к галлюцинациям

✦ Поведение ИИ можно корректировать в реальном времени

✦ Метод аналогичен вакцинации: слабое введение вредных черт помогает сделать ИИ устойчивее

✦ В тестировании участвовали модели: Qwen 2.5-7B-Instruct и Llama-3.1-8B-Instruct

✦ Превентивное управление предотвращает появление токсичности без потери интеллекта

✦ Anthropic описывается «ИИ-психиатрию», как метод и потенциал для контроля моделей

EFEMERA

Подписывайтесь на Telegram EFEMERA: AI news.