Битва титанов: как Google TITANS и MIRAS меняют подход к памяти ИИ?

Сегодня память ИИ находится на уровне золотой рыбки. Она держится на ограниченном контексте и синтетических хаках вроде RAG. TITANS и MIRAS впервые предлагают архитектуру, которая делает память встроенным и обучаемым механизмом, а не внешним костылем.

Google представил исследование TITANS и MIRAS, которое предлагает новый подход к формированию долговременной памяти для больших языковых моделей. Эта работа решает одну из ключевых проблем ИИ, отсутствие настоящей долговременной памяти, из за чего модели часто теряют контекст, не могут строить непрерывные рабочие процессы и работать с долговременными знаниями пользователя.

TITANS, или Training Inference Trajectory Aware Network, это архитектура, которая удерживает историю работы модели и позволяет ей адаптироваться к задачам, которые растягиваются во времени.

Главная идея состоит в том, что модель видит не только текущее состояние диалога или задачи, но и траекторию, по которой она к ним пришла. Это приближает ИИ к тому, как человек формирует память и принимает решения. Мы опираемся не только на факт, но и на путь, который привел нас к этому факту.

Для бизнеса это означает новое поколение ассистентов, которые реально помнят пользователя. Например •ассистент продукта может помнить не только историю запросов, но и стиль мышления пользователя, корпоративный ИИ может сохранять эволюцию проектов и решений внутри команды и тд

MIRAS, или Memory Inference Rewriting Augmentation System, это механизм, который позволяет модели не просто хранить данные, а переписывать и обновлять свою память в процессе работы. Это уже шаг к автономным агентам с целостной картиной мира.

Сегодня мы опираемся на внешние RAG базы. MIRAS делает память частью самой модели. Она фильтрует, консолидирует и обновляет знания так же, как наш мозг. Это фактически первая архитектура, которая позволяет ИИ иметь связное знание о долгосрочных задачах.

Отбор значимых данных, устранение повторов, корректировка устаревшей информации, обновление фактов на основе новых сигналов, интеграция памяти в единый когнитивный поток модели.

Это делает возможным ИИ, который учится на вашем опыте так же органично, как стажер, который работает рядом несколько месяцев.

До сих пор долговременная память в ИИ была искусственной. Контекстное окно расширялось, но не решало проблему. RAG давал доступ к данным, но не делал модель умнее. Файнтюнинг позволял обучать модель, но не обновлять знания в реальном времени.

TITANS и MIRAS дают следующее:

Фактически Google предлагает переход от генеративных моделей к когнитивным системам.

Они смогут помнить ваши проекты, предпочтения, стиль решений, давать более точные и персонализированные рекомендации.

То есть агенты, которые не меняют стратегию каждые 5 минут, а развиваются как люди.

ИИ сможет хранить историю принятия решений, а не только документы.

Модель будет запоминать динамику развития ученика. Это новый уровень EdTech.

Инструменты разработки получат память о архитектурных паттернах, стилях команды, изменениях репозитория.

Следующий шаг это интеграция подобной архитектуры в массовые ИИ продукты, начиная с ассистентов и заканчивая агентными системами. Крупные компании уже делают ставку на автономные цепочки задач и многодневные миссии для агентов. Без долговременной памяти это невозможно.

Если вам близка тема AI, технологий и будущего - добро пожаловать в мой канал обсудить и поделиться апдейтами.