13 апреля 2022
За три месяца эксперимента с использованием интеллектуальных систем фискальные службы Мексики выявили 1,2 тыс. компаний — неплательщиков налогов и 3,5 тыс. мошеннических операций. Традиционными методами на такую работу ушло бы 1,5 года. Выгоды очевидны, но не всё так просто, заключают эксперты Проектно-учебной лаборатории антикоррупционной политики (ПУЛАП) и факультета права НИУ ВШЭ. Возможности и риски применения алгоритмов в профилактике коррупции они изучили на примерах разных стран. Доклад по итогам исследования * был представлен на XXIII Ясинской (Апрельской) международной научной конференции, организованной НИУ ВШЭ.
В 2020 году в Колумбии был пересмотрен почти каждый пятый контракт на госзакупки, связанные с пандемией, а ряд правительственных чиновников из-за махинаций в этой сфере лишились своих постов. Выявить случаи злоупотреблений и инициировать уголовные дела удалось благодаря созданному в 2018-м Центру по анализу информации о государственных контрактах и расходовании бюджетных средств (OCEANO).
Система OCEANO анализировала данные с помощью искусственного интеллекта (ИИ), технологии которого помогают в борьбе с коррупцией по всему миру. В Бразилии, например, в 2017 году появился проект Operação Serenata do Amor с алгоритмом Rosie, изучающим парламентские расходы депутатов и сенаторов. А один из крупнейших мировых пивоваров — компания Anheuser-Busch InBev (AB InBev, Бельгия) на специальной платформе Operation BrewRIGHT, отслеживая потоки своей информации методом машинного обучения, вычисляет незаконные платежи и недобросовестных деловых партнеров.
В противодействии коррупции методы ИИ не просто важны, но часто единственно возможны, а уровень цифровизации госуправления, оказания государственных услуг, доступность баз данных сегодня позволяют создавать модели антикоррупционного мониторинга на постоянной основе.
Компьютерное зрение, обработка естественного языка, распознавание и синтез речи, интеллектуальная поддержка принятия решений — всё это уже практикуется в коррупционно опасных сферах будь то государственное управление, госконтроль (надзор), уголовное преследование предпринимателей, судопроизводство или же корпоративный комплаенс (политика компаний по предупреждению противозаконных действий сотрудников, от англ. compliance — «соответствие»).
Искусственный интеллект автоматизирует рекрутинг, то есть ускоряет и облегчает процесс найма персонала. Многие работодатели это давно оценили. В последнее время, в связи с коронакризисом, сторонников ИИ в отделах кадров всё больше, хотя в целом явление пока далеко не массовое.
Вариантов задействовать компьютерные программы много — поиск и подбор соискателей, приглашения на собеседование, его проведение чат-ботами, оценка кандидата во время интервью и — кроме прочего — определение степени потенциальной честности будущего работника, в том числе чиновника.
Что нужно для эффективного применения ИИ в этом случае? Выделить должности с высокой вероятностью неправового поведения (в России список основных сфер коррупционных рисков содержатся в Методических рекомендациях Минтруда) и выработать систему индикаторов коррупциогенности, пригодных для машинного обучения.
Сложностей здесь эксперты не видят: в сфере подбора персонала почти все проблемы типичны, поэтому у HR-специалистов широкий спектр исходного материала для алгоритмов.
Инструментов вычисления коррупционеров несколько. Важно, как и что человек говорит, какими чертами личности наделён; его тёмное прошлое способно разглядеть машинное зрение, а установки и ценности — специальные игры, имитирующие реальные рабочие ситуации.
Так, психолингвисты пишут, что в русском языке есть слова и выражения с потенциально коррупционным значением — дал на лапу, занёс мешок/чемодан и проч. Они чаще употребляются в текстах с соответствующей тематикой и чаще же — людьми, склонными к таким правонарушениям. Следовательно, «опознать» рисковых кандидатов на вакансии можно через определённую базу слов-сигналов.
А когда вместо речи ИИ получает для анализа лица, в дело вступает технология их идентификации. Алгоритм распознавания лиц на основе самообучающихся нейронных сетей российской компании NtechLab, к примеру, позволяет найти человека в многомиллионной базе всего по одному фото, и это вполне надёжный заслон для проникновения в коммерческие фирмы и госструктуры людей с сомнительным прошлым.
Впрочем, не всё однозначно. Кадровиков нужно учить общаться с роботами, в законах много белых пятен, связанных с персональными данными, а IT вместо возможностей могут открыть компаниям дорогу в суд: искусственный интеллект зачастую непреднамеренно дискриминирует, исключая женщин, национальные меньшинства, инвалидов и работников старше 40 лет.
Серьёзная «головная боль» — злоупотребления в сфере уголовного преследования предпринимателей (заказные дела как способ устранения конкурентов). В России для её «лечения» создано два общественных института, рассматривающих такие жалобы: Уполномоченный при Президенте РФ по защите прав предпринимателей и онлайн-платформа «За бизнес».
Несмотря на принимаемые меры, существенного прогресса в решении проблемы нет. Она не видится системной, множество претензий к одинаковым правонарушениям рассматриваются не как типовые, а как единичные случаи.
Задача ИИ — преодолеть несистемность, улавливая коррупционные риски в действиях правоохранителей. С технической точки зрения это формирование индикаторов, то есть критериев, по которым можно узнавать заказные дела и выявлять нечистых на руку сотрудников: оперативность возбуждения дел, затягивание сроков расследования, вынесения приговоров и проч.
Ещё одна беда — коррупция среди судей. Главная причина та же — наличие поля для манёвра. В данном случае благодаря широте законодательных формулировок, закрепляющих полномочия следственных и судебных органов.
Понятия могут быть оценочными, основания для заключения под стражу, ареста имущества, изъятия документов и т.п. — описанными абстрактно. В результате — соблазн вершителей закона к мздоимству и невысокий уровень доверия к ним граждан.
Судебные приговоры — это корпус текстов с чёткой структурой и формулировками. Иными словами — открытая информация для искусственного интеллекта, в которой ситуации с коррупционными факторами скрываются за повторяющимися сходными словами и выражениями.
Изучение решений, вызывающих сомнение в их беспристрастности, показало, что они отличаются от основной массы соответствующих уголовно-процессуальным нормам. В частности, не отражают, что человеку были предоставлены те или иные гарантии, предусмотренные законом. Отсутствие таких записей – тоже характерный маркер для ИИ.
В 2017 году удачный пример внедрения машинного обучения в эту область продемонстрировал Китай. Всего за полгода там запустили первую версию «Системы 206» — программы, основанной на единой государственной базе судебных решений China Judgements Online.
Пресекать коррупцию не единственный талант китайского алгоритма. Он способен на многое, в том числе давать судьям рекомендации по назначению наказания, наличию смягчающих обстоятельств, брать во внимание особенности личности преступника и т.п.
Секрет такой многозадачности в объеме исходного материала. China Judgements Online — самое крупное в мире онлайн-хранилище с более чем 80 млн документов. В России подобного пока нет, а для создания единой обширной базы требуется перевод письменных материалов в цифровой формат.
Международный опыт показывает, что искусственный интеллект эффективен и при государственном контроле (надзоре) — мероприятиях «по предупреждению, выявлению и пресечению нарушений обязательных требований».
В США (Чикаго) соблюдение санитарно-эпидемиологических норм на почти 15 тысячах объектах общественного питания контролируется всего 30 инспекторами. Они проводят точечные проверки лишь потенциально опасных точек, на которые «наводит» программа с технологией Big Data. А в Южной Неваде местный департамент здравоохранения проверяет кафе и рестораны после изучения (тоже с помощью ИИ) отзывов о них в Твиттере. Как доказал эксперимент, количество нарушений у предприятий, попавших в поле зрения таким образом, почти вдвое выше, чем у тех, куда контроллеры приходили в случайном порядке.
В России минимизировать коррупцию в сфере госконтроля во многом удалось за счёт государственной информационной системы «Типовое облачное решение по автоматизации контрольной (надзорной) деятельности» (ГИС ТОР КНД). Система взаимодействует с Единым реестром контрольных (надзорных) функций (ЕРКНМ), в рамках которого проверки согласуются с органами прокуратуры. Компьютерная программа ранжирует субъекты контроля по уровням рисков, содержит историю проверок и в конечном счёте — снижает человеческий фактор, возможность инспектора влиять на проверяемых.
В качестве подсистемы и поставщика информации для ГИС ТОР КНД была создана государственная платформа сбора данных (ГПСД). Её задача — дистанционное наблюдение за охраняемыми государством объектами и экологический мониторинг в регионах. Механизмы интернета вещей позволяют в режиме реального времени обнаруживать нарушения, которые могут быть основанием для проведения проверки.
Ежегодно в России принимается около миллиона нормативно-правовых актов. В отношении их, равно как и уже действующих, с 2009 года проводится антикоррупционная экспертиза, то есть в документах выявляются положения, провоцирующие коррупцию.
Миллион — это большая нагрузка. Экспертов не хватает, компетентность не всегда на должном уровне. Решение проблемы — всё та же автоматизация силами ИИ.
Одна из таких моделей создается Проектной группой НИУ ВШЭ. Работа идёт в партнерстве с ПУЛАП НИУ ВШЭ и Отделом методологии противодействия коррупции ИЗиСП при Правительстве РФ. Ожидаемый результат — создание набора данных (датасета) для обучения модели, осуществляющей антикоррупционную экспертизу.
Проект достаточно сложный. Это демонстрируют несколько фактов, с которыми столкнулись учёные: за основу для обучения модели хотели взять мотивированные ответы государственных органов с Федерального портала проектов нормативных правовых актов, однако аргументированных ответов там не нашлось, а среди 3 тыс. «карточек» доступными оказались лишь семь реальных заключений по результатам независимых антикоррупционных экспертиз.
Одним из первых масштабных опытов по использованию искусственного интеллекта для нахождения фактов коррупции в публичном секторе стала китайская система Zero Trust. Она обрабатывала информацию из 150 закрытых правительственных баз данных чиновников и спутниковых фотографий для проверки активности мероприятий по госконтрактам. Признаками повышенных коррупционных рисков могли служить нетипичный рост доходов или сбережений, дорогостоящие покупки, оформленные на служащего или его родственника, и т.п. Всё это сопоставлялось с итогами государственных и муниципальных закупок, далее оценивалась вероятность коррупционного характера обогащения, при неблагоприятном вердикте оператор системы получал уведомление и чиновника ждала проверка.
Сами разработчики системы признали, что технология лишь сигнализировала о потенциальных случаях коррупции без объяснений, почему сделано то или иное заключение. Выводы было сложно приложить к правовому полю, поскольку искусственный интеллект лишь средство сбора информации, а не прямое доказательство вины.
Преградой к успеху подобных систем способны стать чиновники, от которых зависят запуск и эффективное функционирование технологий. Остаются вопросы к объёмам баз данных (большие раскрывают потенциал ИИ, но при усложнении алгоритмов теряется прозрачность анализа). Важно также понимать, что обработка и проверка результатов требуют колоссальных трудозатрат, и что поставить кибернетический разум на службу нельзя без привлечения высококвалифицированных кадров, которых пока не так много.
Словом, приход искусственного интеллекта даже в потенциально перспективные сферы непрост, но возможности его столь велики, что планировать масштабное внедрение нужно уже сейчас.
IQ
* Доклад «Искусственный интеллект в профилактике правовых рисков и противодействии коррупции». Авторский коллектив: Крылова Д.В. (научный редактор), Майоров А.В., Минченков Е.Н., Волкова А.М, Потапов А.Д., Цирин А.М., Долотов Р.О., Соколов Т.В., Максименко А.А., Таут С.В., Артеменко Е.А., Поросенков Г.А., Пархоменко С.А., Мельникова А.Л.
