Как «Азимут» научил ИИ-ассистента отвечать на сложные запросы пассажиров

О компании

Авиакомпания «Азимут» — российский перевозчик, базирующийся в Ростове-на-Дону, Краснодаре, Минеральных Водах, Сочи и Москве. С 2017 года компания перевезла более 9,5 млн пассажиров.

Ранее Сбер Бизнес Софт уже разрабатывал для «Азимута» чат-бота с базовыми функциями информирования пассажирова, однако для повышения качества сервиса потребовалось более гибкое и интеллектуальное решение.

Также авиаперевозчик хотел сделать виртуального ассистента инструментом первой линии поддержки, в том числе для того, чтобы разгрузить своих сотрудников и сократить расходы на дополнительный найм.

Ключевые этапы реализации

1.     Использовали LLM для генерации ответов

Для решения задачи команда Сбер Бизнес Софт предложила внедрить большую языковую модель GigaChat, чтобы ассистент мог анализировать документацию авиакомпании и генерировать точные ответы и  обрабатывать сложные и неочевидные запросы. 

Это позволило ассистенту анализировать внутреннюю документацию авиакомпании и генерировать точные ответы, в том числе на нестандартные запросы пассажиров. Обучение модели проводилось на актуальных данных перевозчика, включая правила перевозок, тарифы и другие регламенты.

Для того, чтобы технология работала, нужно обучить модель на данных авиаперевозчика. Для обучения использовалась пассажирская документация авиакомпании.

Что такое LLM?

LLM (Large Language Model, большая языковая модель) — это продвинутая нейросеть для работы с текстами, которая обучается на терабайтах текстов — книгах, статьях и интернет-сайтов. LLM также связана с тремя другими технологиями искусственного интеллекта: обработкой естественного языка, машинным обучением и глубоким обучением.

2. Использовали RAG²  для автоматизации обновлений

Документы, на которых обучается ассистент можно удалять, добавлять новые, если появляются новые положения, правила и регламенты. Ассистент будет переучиваться автоматически в считанные секунды.

Для этого в дополнение к большим языковым моделям была использована RAG-модель. Это такой метод работы с LLM, который расширяет базу знаний LLM до неограниченных размеров, дает быстрый доступ к специализированным доменам знаний или к внутренней базе знаний организации без необходимости переобучения модели. RAG помогает устранить ограничения LLM, такие как устаревание информации, наличие неточностей.

3. Создали интерфейсы для работы команды

Помимо ИИ-ассистента, который использует LLM GigaChat и RAG-модель для генерации, В рамках проекта команда Сбер Бизнес Софт создала:

• Интерфейс загрузки документов — позволяет обновлять базу знаний без участия разработчиков.
• Интерфейс настройки промптов — дает возможность корректировать поведение модели для более точных ответов.
• Интеграция с системой бронирования — обеспечивает доступ к актуальным данным о рейсах и бронированиях.

Это было особенно важно для команды компании — ведь с помощью интерфейсов они в будущем самостоятельно смогут управлять документацией, удаляя старые документы и загружая новые, а также настраивать все более и более точные промпты для нейросети.

4. Оценили переход от стандартного бота к ИИ-ассистенту

Для оценки эффективности нового решения были проанализированы ответы стандартного чат-бота и ИИ-ассистента. Внедрение GigaChat и RAG позволило значительно повысить точность и детализацию ответов, особенно при обработке сложных или неочевидных запросов. Чтобы понять разницу между ответами обычного чат-бота и ИИ-ассистента, сравним несколько ответов, представленных ниже:

Обычный бот ответил только на вопрос по отмену/задержку рейса с помощью заранее заготовленного сценария, скорее всего он не поможет клиенту, т.к. не учитывает контекст и дальнейшее содержание вопроса. ИИ-ассистент предложил варианты решения проблемы.