Асилиск 26 марта 2025

«Асилиск» внедрил многоуровневую систему памяти для улучшения работы с ИИ

Решение направлено на персонализацию контента и преемственность информации благодаря четырехуровневой архитектуре хранения и интеллектуальному поиску

Большинство LLM не сохраняют память между сессиями, что усложняет работу с бренд-спецификой. Для минимизации этих сложностей предложена система хранения памяти на основе многоуровневой архитектуры:

Многоуровневая система памяти, обеспечивающая преемственность данных и персонализацию контента:

  1. Базовый слой (Core): Фиксация ключевых параметров (Tone of Voice, стиль бренда, запрещенные клише).
  2. Контекст диалога (Message): Краткая история взаимодействий для поддержания логики диалога.
  3. Архив знаний (Archival): Векторная база данных для долгосрочного хранения уникальных данных компании (бренд-буки, шаблоны, кейсы).
  4. Интеллектуальный поиск (Recall): Автоматическое извлечение релевантных данных из архива под текущие задачи (напр., создание пресс-релиза с учетом прошлых успешных кейсов).

Реализация при переполнении контекстного окна:

  • Архивация истории с сохранением семантических связей через эмбеддинги;
  • Генерация сжатых мета-описаний для оптимизации доступа;
  • Автоподгрузка данных, связанных с запросом (например, упоминание «корпоративного стиля» инициирует поиск по бренд-буку).

Технологическая платформа:

  • Векторные базы данных (pgvector): Для семантического поиска и хранения бренд-активов.