Искусственный интеллект в банках: нейросети и клиентское обслуживание

Несмотря на то, что до массового применения генеративных нейросетей в банковском секторе еще далеко, сегодня немало компаний начинают рассматривать практические примеры их применения. О возможностях и рисках для кредитных организаций от использования больших языковых моделей (LLM), а также успешных примерах их внедрения рассказал Александр Крушинский, директор департамента голосовых цифровых технологий компании BSS.

Какие перспективы для улучшения клиентского обслуживания открывают банки благодаря ГенИИ и LLM?

ГенИИ и основанные на них решения уже активно применяются в современных чат-ботах, голосовых помощниках, а также в системах речевой аналитики и контент-анализа, при этом значительно улучшая их функционал. Например, чат-боты, оснащенные LLM, могут отвечать на индивидуальные вопросы клиентов без использования заранее подготовленных шаблонов.

Кроме того, системы речевой аналитики с интегрированными большими языковыми моделями способны анализировать массивы диалогов на естественном языке, не требуя предварительной подготовки шаблонов или выделения ключевых слов. Они могут выявлять, например, частые причины жалоб клиентов и даже давать советы по повышению качества обслуживания.

Генеративные нейросети обладают способностью читать и генерировать текст. Достаточно предоставить нейросети вопрос клиента и соответствующие материалы в любом формате, чтобы она могла сформулировать ответ. В идеальных условиях за один день можно создать на основе нейросетей робота, который будет отвечать на любые запросы клиентов, опираясь на весь массив внутренних нормативных документов банка.

Учитывая эти преимущества, что сегодня мешает полноценной интеграции такого решения в банковскую систему? 

Во-первых, российские банки не могут воспользоваться наиболее продвинутой большой языковой моделью ChatGPT от OpenAI из-за санкций. Доступные генеративные нейросети от российских компаний — YandexGPT и GigaChat — пока что не достигли такого уровня развития.

Также эти модели первоначально создавались как облачные решения. В ситуациях, где не требуется использование персональных данных клиентов, такая модель может быть приемлемой. Но при возникновении необходимости давать более точные и персонализированные ответы, у банков возникают сомнения относительно информационной безопасности использования облачных услуг. Кроме того, развертывание больших языковых моделей в локальной инфраструктуре может обойтись в десятки миллионов рублей из-за необходимости в высокопроизводительных графических картах, требующих значительных вычислительных ресурсов.

Ну и не стоит забывать, что ГенИИ все еще может допускать ошибки. Если нейросеть выдает официальные ответы от имени банка, которые остаются в истории взаимодействия с клиентом, и в них содержится ошибка, это создает серьезные проблемы и репутационные риски. 

В своей компании вы уже начали работы над решением этих проблем? Мы знаем, что BSS активно развивает свой речевой технологический стек. 

Спустя полгода после появления ChatGPT нам стало понятно, что его следует применять в банковских процессах. Для начала мы интегрировали YandexGPT в наш чат-бот, при этом не передавая данные банка и не отвечая на вопросы о его деятельности. Из-за большого числа запросов на использование LLM для бизнес-задач мы запустили бота для клиентов малого и среднего бизнеса, которым они продолжают активно пользоваться.

Следующий шаг — использование генеративной нейросети для ответов на вопросы о продуктах банка с помощью технологии RAG (Retrieval Augmented Generation). Мы структурируем нормативную информацию банка и ставим LLM задачу использовать ее в ответах, задавая те же вопросы, что и операторам.

Но ключевой момент здесь — деперсонализация. Используя облачную нейросеть, банк должен исключить риск утечки персональных данных. Нужно удалять такие данные, даже если клиент называет свое имя. В идеале нейросеть должна получать ответы, очищенные от персональных данных, с возможностью восстанавливать их для обращения к клиенту по имени и отчеству.

Есть ли у BBS текущие проекты по использованию ГенИИ в банковской сфере?

У нас есть крупный проект, сейчас он проходит внутреннее тестирование на ограниченной группе клиентов. В первом квартале 2025 года планируем запуск генеративной нейросети для широкой аудитории. В это время мы улучшаем сервис: работаем над деперсонализацией и качеством ответов, а также упорядочиваем документацию банка для удобства поиска.

Мы оптимизируем большую языковую модель, так как она иногда обращается к клиентам на «ты», что неприемлемо в бизнес-обслуживании. Мы «дообучаем» ее, предоставляя примеры вежливого общения, чтобы добиться корректного обращения на «вы».

Большие возможности ГенИИ в банковском секторе становится все более очевидным. Уровень автоматизации сопоставим с показателями скриптовых ботов, но настройка бота с LLM требует гораздо меньше времени. Наша большая языковая модель хорошо отвечает на вопросы, но нам нужно решить задачи по деперсонализации и предотвращению вводящих в заблуждение ответов.

Как вы используете LLM в речевой аналитике?

В контакт-центрах LLM находят множество применений. Эти модели могут не только генерировать текст, но и решать аналитические задачи, такие как классификация и выявление тем в разговорах клиентов. Мы используем LLM для обнаружения новых тем обращений. Если какая-то тема часто возникает, модель уведомляет аналитика о необходимости разобраться с ней — это пример кластеризации. Кроме того, LLM может саммаризировать звонки, выделяя суть запроса и действия оператора в одном абзаце, что упрощает анализ большого количества обращений.

Мы также можем задавать LLM вопросы на естественном языке. Раньше для поиска недовольных клиентов нужно было настраивать маркеры, теперь достаточно попросить показать звонки с негативом со стороны клиента. Нейросеть сама их выявит и даже может решить более сложные задачи, такие как нахождение случаев отказа от предложений.

Кроме того, у нас есть «База знаний», где хранится информация в структурированном виде. Использование генеративной модели позволяет быстро отвечать на вопросы клиентов, например, о тарифах по депозитам. На такой вопрос нейросеть ответит: «13%, подробности по ссылке». Это еще один пример успешного применения ГенИИ в наших продуктах.

Для операторов контакт-центров бот с интегрированной LLM является «коллегой» или своеобразным соперником? 

Бот выступает в роли суфлера, предоставляя оператору подсказки во время общения с клиентом, как в текстовом, так и в голосовом канале. Он предлагает готовый ответ, который оператор может быстро подтвердить или отредактировать. Безусловно, мы можем считать его настоящим помощником, а не конкурентом. 

Система с большой языковой моделью также помогает супервайзеру контролировать качество работы операторов. Конечно, появление таких технологий может привести к сокращению числа операторов, но это не следует воспринимать негативно — рутинные задачи автоматизируются, и операторы смогут сосредоточиться на более сложных и интересных вопросах.

В идеале операторы занимаются только сложными задачами, в то время как робот отвечает на простые запросы и предоставляет рекомендации по улучшению обслуживания, освобождая операторов от необходимости искать информацию вручную.

А сами банки уже начали интересоваться применением ГенИИ для улучшения клиентского сервиса?

Да, интерес к ИИ в банковском обслуживании очень высок. У многих есть определенные ожидания от генеративных нейросетей, иногда завышенные, наряду с опасениями относительно доверия к ним. Сегодня среди банков есть новаторы, готовые экспериментировать и внедрять новшества. У нас есть клиенты, которые стремятся быть первыми. За ними следуют ранние последователи, готовые внедрять инновации, опираясь на успешные примеры.

Мы на той стадии стадии развития, когда успешные примеры уже имеются, а наши решения вызывают интерес у банков. Генеративные нейросети и большие языковые модели скоро широко применятся, так как их внедрение проще и быстрее, чем традиционных голосовых или чат-ботов.