ИИ-ловушка: почему искусственный интеллект ведет к стагнации

Александр Барсуков — кандидат экономических наук, методолог-преподаватель Международной школы бизнеса Горки, сооснователь Community University, экс-CEO и член правления сети «Магнит», основатель Сбераналитики.

На фоне анонсов выхода GPT-5 тема интеграции искусственного интеллекта в бизнес-процессы приобретает особую актуальность. Многие компании ожидают прорыва, однако за впечатляющими первоначальными результатами часто скрывается стратегическая ловушка, ведущая к стагнации. На примере собственного опыта внедрения самообучающихся систем в крупной розничной сети расскажу, как избежать этой ошибки. 

Первый опыт: когда ИИ «подтягивает» средний уровень

В 2006 году розничная сеть, в которой я занимал пост директора магазина, внедрила систему автоматического заказа товаров. Если ранее руководитель точки самостоятельно формировал заявки, то теперь алгоритм делал это с учетом множества параметров. В моем магазине качество заказа снизилось, и я возмущенно обратился в головной офис. В ответ прозвучало, что я «молодец и работал выше среднего», но в целом по сети алгоритм значительно улучшил показатели среднего директора. Это стало точкой отсчета: компания начала активнее развивать решения на основе ИИ.

ИИ как «экзоскелет» для руководителя: этап стремительного роста 

К 2008 году, когда я возглавил направление гипермаркетов, сеть столкнулась с ключевым ограничением быстрого роста — дефицитом квалифицированных руководителей. Подготовка директора гипермаркета занимала около года: обучение, стажировка, адаптация. Это никак не соответствовало темпам и планам компании. 

Было принято решение создать «ИИ-экзоскелет директора» — интеллектуальную систему управления (ИСУ), которая усиливала бы компетенции руководителя. Самообучающийся алгоритм в режиме 24/7 собирал лучшие практики, предлагал готовые решения и фиксировал отклонения. В сложных случаях система обращалась в центральный офис для дообучения.

Критически важным было то, что рекомендации ИСУ не являлись обязательными к исполнению. Опытные директора могли отклонять подсказки, если обладали более релевантным решением. Это позволило снизить сопротивление персонала при внедрении.

Результат превзошел ожидания: срок подготовки директора сократился с года до трех недель. Новые руководители быстро выходили на средний уровень производительности, а система постоянно эволюционировала, аккумулируя лучшие решения опытных менеджеров.

Обратная сторона: почему прогресс остановился

Спустя время развитие ИСУ замерло. Мы ошибочно решили, что система просто развилась до совершенства и работает стабильно.

Затем мы посмотрели внимательнее и обнаружили, что опытные директора, изначально учившие систему, постепенно начали все больше следовать советам ИСУ и в какой-то момент полностью перешли под ее управление. Причина — в психофизиологии: самостоятельный анализ энергозатратен и требует принятия на себя ответственности. Довериться алгоритму — проще.

Со временем их навыки принятия нестандартных решений атрофировались, как атрофируется умение ориентироваться в городе без навигатора. Они опустились до среднего уровня. Система, которая училась на их опыте, лишилась «корма» в виде новых, уникальных решений и тоже перестала развиваться. Мы получили идеально управляемую, но стагнирующую структуру.

Идеальное управление ценой потери гибкости

В итоге ИСУ превратилась из системы развития в справочно-надзорную. Она лишь транслировала задачи и контролировала их выполнение. 

Все развитие сосредоточилось в Центре управления (ЦУП), где небольшая группа экспертов вручную создавала новые решения и загружала их в систему. 

С точки зрения управляемости это была идеальная конструкция: все спускаемые задачи выполнялись, самодеятельности не было. Более того, снизилась текучесть кадров — директор гипермаркета мог работать как директор только у нас, потому что в других структурах он имел бы недостаточный опыт. Порог уровня развития для набора новых сотрудников снизился, как и стоимость оплаты. 

Однако способность компании к адаптации, поиску новых решений и развитию деградировала. Скорость реакции на внешние изменения упала, так как зависела от небольшой группы людей в ЦУП.  

Стратегическое решение: как можно было сохранить развитие

Идеальное состояние симбиоза человека и ИИ было достигнуто вначале: новички быстро обучались, а опытные директора генерировали инновации, на которых росла система. Чтобы поддерживать этот баланс, требовались сознательные усилия. 

Что нужно было делать:  

1. Создание «полигонов» без ИИ.

Необходимы зоны, где руководители принимают решения без подсказок системы, сохраняя и развивая свои компетенции.

 2. Системный бенчмаркинг. 

Постоянный анализ best practices индустриальных игроков и интеграция этого опыта в ИСУ.

 3. Моделирование новых ситуаций и «надсистемы».

Создать систему следующего уровня, которая бы анализировала внешнюю среду: потребительские тренды, изменения законодательства, научно-технический прогресс. Ее задачей было бы моделирование новых ситуаций и обучение исполнительной ИСУ. Это бесконечный процесс, требующий постоянного притока внешних данных, их анализа и интеграции.

Вывод для бизнеса: как избежать ловушки

Многие компании сегодня, обольщенные возможностью упростить процессы за счет нейросетей, находятся на пороге той же ловушки. Они рискуют потерять способность к адаптации, так как будут кормить алгоритмы уже существующей, «старой» информацией. Процессы в компании перестанут развиваться и замкнутся «сами в себе». 

Первоначальный рост за счет «подтягивания среднего показателя» обманчив. На следующем этапе неизбежно снизится способность адаптироваться к новому, что приведет к системному кризису.

Чтобы этого не произошло, во всех процессах интеграции ИИ необходимо сохранять независимые интеллектуальные центры — человеческие экспертные группы. Их роль — «подкармливать» алгоритмы новыми решениями, выходящими за рамки текущей базы, и постоянно работать над созданием «надсистем».

Мы будем наблюдать, как «второе мнение» от ИИ для многих станет основным, что приведет к их деградации. Успеха добьются те, кто сохранит человеческий интеллект как доминирующий, а ИИ будет использовать как инструмент усиления, а не замены.