От помощника к риску: почему юрдепам пора внедрять AI-комплаенс

Недавно консалтинговая компания Deloitte согласилась вернуть австралийскому правительству 440 тысяч долларов за отчет, содержащий несуществующие академические ссылки, выдуманную цитату из решения Федерального суда и даже неправильно написанное имя судьи. Все эти ошибки были сгенерированы искусственным интеллектом.

Ситуация выглядит уникальной, но на самом деле отражает системную проблему: ИИ все чаще используется в юридической и аналитической работе без прозрачных правил, проверки и ответственности.

Почему это важно для юридических команд

Юристы часто обращаются к ИИ за готовыми текстами. Кто-то просит написать иск или резюме дела, кто-то найти ссылку на положение в законе. Постепенно нейросеть становится «младшим коллегой», которому доверяют как источнику знаний.

Проблема в том, что нейросеть не знает ни закона, ни фактов, ни контекста. Она не рассуждает, а лишь подбирает слова, которые чаще встречаются рядом в юридических текстах. Так рождается иллюзия знания: текст выглядит как юридическое заключение, но в нем нет смысла.

Это далеко не первый случай. Самый известный пример — дело Mata v. Avianca в США: юристы подали ходатайство, полностью написанное ChatGPT, со ссылками на шесть несуществующих дел. Судья назвал это «позором профессии». Подобные ситуации уже фиксировались в Канаде и Австралии.

Проблемы очевидны: юрист теряет критическое мышление, компании — доверие клиентов и регуляторов.

Риск искажений и предвзятости

Отдельный пласт рисков связан с тем, как обучаются модели. Алгоритмы копируют данные — а значит, и предвзятости, которые в них содержатся.

Например, в одной из систем подбора персонала Amazon ИИ начал отдавать предпочтение мужчинам, потому что обучался на исторических данных с таким же перекосом. Компания столкнулась с обвинениями в дискриминации и репутационными последствиями.

Предвзятый алгоритм в юриспруденции — это не просто неточность, а системная угроза: ошибка, которая масштабируется и закрепляется.

Как юрдепам укротить ИИ

Использовать ИИ можно и нужно: современная юридическая команда не будет эффективной и конкурентоспособной, игнорируя нейросети. Но внедрение ИИ требует строгих правил и контроля.

Во-первых, любой юридический документ, подготовленный нейросетью, должен проходить ручную проверку. Любая ссылка — обязательную верификацию. Любой вывод — экспертное подтверждение.

Во-вторых, клиентам, которые внедряют ИИ в юридические процессы, мы помогаем перейти к новому стандарту — AI-комплаенсу. Это система корпоративных правил, процедур и инструментов, делающая использование ИИ прозрачным, управляемым и безопасным.

Как это работает

AI-комплаенс строится вокруг трех принципов: прозрачность, ответственность, предсказуемость.

В рамках программы:

• проводится аудит ИИ-систем и их обучающих данных;
• определяются границы автоматизации — какие решения полностью автоматические, какие требуют проверки человеком, а какие должны приниматься только человеком;
• выявляются и устраняются искажения и предвзятости;
• разрабатываются внутренние политики по ответственному использованию ИИ и инструкции для сотрудников.

Когда это особенно нужно

AI-комплаенс становится критически важен, если юридический департамент использует ChatGPT или другие модели при подготовке документов, если корпоративные процессы включают автоматизированный анализ данных или решений, если требуется защита от ошибок и искажений, создаваемых ИИ.

В ЕС уже принят Закон об ИИ, который устанавливает обязательные требования к системам ИИ. Для компаний, работающих на европейском рынке, внедрение AI-комплаенса становится необходимостью.