Изображение создано при помощи модели Шедеврум
Применение ИИ в банковской сфере требует не только технологической готовности финансовых организаций, но и внимания к этическим аспектам взаимодействия с потребителями. Эксперты рассказывают, какие проблемы наиболее актуальны и как регулируется практика использования ИИ в кредитных организациях с этической точки зрения.
Когда заходит разговор про создание и развитие новых технологий, в первую очередь бенефициары думают о результатах, и во вторую – о возможных рисках. В подобных «реестрах рисков» этические аспекты использования ИИ имеют повышенный приоритет, объясняет старший преподаватель факультета экономических наук НИУ ВШЭ Руслан Искяндяров.
«Первое, с чем столкнулся финансовый сектор – использовании ИИ не во благо, а во вред. Искусственный интеллект уже давно используется для создания вирусов, генерации дипфейков и голоса для обхода защитных систем финансовых компаний и кражи средств со счетов клиентов», - говорит он.
Ситуация будет ухудшаться, прогнозирует эксперт: «Мы рано или поздно придем к ситуации, когда отличить реальное изображение или звуковую дорожку от сгенерированных не представится возможным».
Даже банальное использование ИИ и внедрение его в продукты компаний открывают новые каналы угроз. «Представьте, что злоумышленники смогут пообщаться с ИИ, с которым общались вы. При некачественной защите преступникам не составит труда узнать о вас все: чем вы интересовались, какие задачи ставили, что из фотографий и документов отправляли на анализ».
Вопрос контроля над ИИ - ключевой, говорит эксперт. Многие ученые и эксперты уже задаются вопросом: «А не выпустили ли мы джинна из бутылки и сможем ли его контролировать?»
Банки используют ИИ, чтобы лучше понимать клиентов и предоставлять им более персонализированные услуги. Но с этим возникает и ряд серьезных этических вызовов, которые нельзя игнорировать, рассказывает завлабораторией человекоцентричности и лидерских практик НИУ ВШЭ Владимир Соловьев.
Во-первых, общение через чат-боты и голосовые помощники на базе ИИ может вызывать у клиентов негативные эмоции. Исследование, проведенное лабораторией совместно с Банком России и Международной лабораторией цифровой трансформацией государственного управления НИУ ВШЭ, показало, что половина респондентов относятся к голосовым помощникам и чат-ботам на базе ИИ положительно. Треть (34%) не хотят общаться с виртуальными помощниками, а 16% - отметили как негативные, так и позитивные стороны такого общения.
«Проблема в том, что возникшая у клиента банка негативная эмоция способна сформироваться и очень быстро укорениться в сознании. При этом возникновение и закрепление позитивной ассоциации требует серьезных усилий. Важно, чтобы кредитные учреждения не злоупотребляли технологиями в ущерб человеческому общению», - отмечает Соловьев.
Также пока не решен вопрос ответственности за решения, принимаемые ИИ-системами. «Если алгоритм нанес ущерб клиенту, кто должен отвечать - разработчики, руководство банка или сам клиент? Здесь нужны четкие правовые нормы», - убежден эксперт.
Банк России среди этических проблем использования ИИ выделяет две – объяснимость алгоритмов принятия решений и определение основных факторов, лежащих в основе рекомендаций, которые выдает модель ИИ. В частности, специалисты видят угрозу принятия предвзятых или дискриминационных решений.
В первую очередь, опасность заключается в том, что системы ИИ будут принимать решения, выгодные для банков, но ущемляющие интересы клиентов, объясняет Владимир Соловьев. Например, отказ в кредитах на основе скоринга без учета жизненных обстоятельств человека, или навязывание ненужных, но прибыльных для банка продуктов. «Это вопрос баланса между коммерческими целями финансовых организаций и заботой о благополучии клиентов», - формулирует Соловьев.
Для справки: сейчас, например, в «Сбербанке» решение о выдаче заемных средств корпоративным клиентам в 40% случаев принимает ИИ, рассказал глава финучреждения Герман Греф. При одобрении кредита физлицам сотрудники не участвуют совсем - 100% решений принимает ИИ.
«Использование ИИ-скоринга в финансах этично при соблюдении ключевых принципов: недискриминация, прозрачность, защита персональных данных и экспертный контроль», - поясняют в Альянсе в сфере искусственного интеллекта, в который объединились ведущие технологические компании.
Так, организациям, применяющим ИИ при скоринге рекомендуется создавать механизмы объяснения логики принятых решений. Это повысит прозрачность механизма и общую осведомленность пользователей о принципах их работы, полагают авторы «Белой книги этики в сфере искусственного интеллекта», опубликованной Альянсом. Ее подписали 852 крупнейших российских фирмы.
«Этичность использования ИИ-скоринга в финансах зависит от контекста и целей. Если машинное обучение помогает улучшить обслуживание клиентов и обеспечить справедливое кредитование, то его можно считать этичным», - объясняет директор по рискам, вице-президент Т-Банка Анна Казакова.
Например, при расчете кредитного лимита банк использует статистику для оценки платежеспособности клиентов, что помогает защитить их от финансовой неграмотности, объясняет эксперт.
«В то же время должны быть меры для защиты данных и предотвращения злоупотреблений, чтобы конфиденциальность и права пользователей были приоритетом. Важно, чтобы алгоритмы не усиливали предвзятость и не дискриминировали определенные группы людей», - добавляет Казакова.
Решать этические проблемы в финансовой сфере нужно комплексно, отмечает Владимир Соловьев. «Банки должны вырабатывать внутренние этические стандарты использования ИИ, ориентируясь на интересы клиентов», - говорит эксперт.
Многие банки именно так и поступают – принимают этические кодексы. К примеру, «Сбербанк» сделал это в начале 2021 года. Среди принципов использования ИИ – его контролируемость и управляемость, прозрачность и предсказуемость работы технологии, использование его для блага клиентов.
Для решения этических проблем важна и позиция клиентов - ключевых стейкхолдеров, которые дают обратную связь по этическим вопросам. Она позволит банкам создавать более человекоцентричные и доверительные отношения в эпоху активного внедрения технологий искусственного интеллекта, отмечает Соловьев.
«Регулятор, в лице Банка России, также должен быть вовлечен в решение существующих этических вызовов», - добавляет Владимир Соловьев. От этого зависит доверие граждан к финансовой системе в целом.
Банк России в октябре 2024 года утвердил «Основные направления развития финансовых технологий до 2027 года». Там сказано, что регулятор «планирует проводить мониторинг и анализ текущих практик российских финансовых организаций по управлению рисками ИИ».
Затем будут выработаны предложения по содержанию Кодекса этики применения ИИ на финансовом рынке и, если нужно, то и поправки в законодательство.
В подписке — дайджест статей и видеолекций, анонсы мероприятий, данные исследований. Обещаем, что будем бережно относиться к вашему времени и присылать материалы раз в месяц.
Спасибо за подписку!
Что-то пошло не так!
