«Асилиск» внедрил многоуровневую систему памяти для улучшения работы с ИИ
Решение направлено на персонализацию контента и преемственность информации благодаря четырехуровневой архитектуре хранения и интеллектуальному поиску
Большинство LLM не сохраняют память между сессиями, что усложняет работу с бренд-спецификой. Для минимизации этих сложностей предложена система хранения памяти на основе многоуровневой архитектуры:
Многоуровневая система памяти, обеспечивающая преемственность данных и персонализацию контента:
- Базовый слой (Core): Фиксация ключевых параметров (Tone of Voice, стиль бренда, запрещенные клише).
- Контекст диалога (Message): Краткая история взаимодействий для поддержания логики диалога.
- Архив знаний (Archival): Векторная база данных для долгосрочного хранения уникальных данных компании (бренд-буки, шаблоны, кейсы).
- Интеллектуальный поиск (Recall): Автоматическое извлечение релевантных данных из архива под текущие задачи (напр., создание пресс-релиза с учетом прошлых успешных кейсов).
Реализация при переполнении контекстного окна:
- Архивация истории с сохранением семантических связей через эмбеддинги;
- Генерация сжатых мета-описаний для оптимизации доступа;
- Автоподгрузка данных, связанных с запросом (например, упоминание «корпоративного стиля» инициирует поиск по бренд-буку).
Технологическая платформа:
- Векторные базы данных (pgvector): Для семантического поиска и хранения бренд-активов.
Интересное:
Новости отрасли:
Все новости: