Изображение создано при помощи модели Perplexity
Искусственный интеллект и математические алгоритмы могут быть полезны, если их использовать умело и осторожно. В противном случае рядовой пользователь может столкнуться с мошенничеством, упустить выгоду или пойти на неоправданный риск. Об особенностях работы ИИ в оценке рисков, пользе антифрода и о том, почему полезно ошибаться и тем самым увеличивать вероятность успеха, рассказали преподаватели и студенты факультета компьютерных наук НИУ ВШЭ в формате стендап-лекций.
Факультет компьютерных наук ввел в практику проведение нестандартных лекций в формате, понятном широкой аудитории. Лекторий проходит в баре «Ровесник». Каждый участник в течение 20 минут просто и с юмором рассказывает о современных трендах в технических науках.
Куратор двух образовательных программ ФКН и студент четвертого курса бакалавриата «Компьютерные науки и анализ данных» Гордей Зуев предложил аудитории проверить интуицию на примере парадокса Монти Холла.
Парадокс Монти Холла — это известная логическая задача, основанная на правилах американского телешоу Let’s Make a Deal. Парадокс был назван в честь канадского телеведущего Монти Холла, многолетнего ведущего данного шоу. Участнику предлагают выбрать одну из трех дверей. За одной из них спрятан главный приз — автомобиль, а за двумя другими — козы. После того как игрок делает свой выбор (например, выбирает дверь №1), ведущий, который точно знает, где находится приз, открывает одну из оставшихся двух дверей и показывает козу (например, дверь №3). При этом ведущий никогда не откроет дверь с машиной и никогда не откроет ту дверь, которую выбрал игрок, чтобы сохранить интригу в выборе. После этого игроку предлагают: оставить первоначальный выбор или сменить его на другую закрытую дверь (в нашем примере — на дверь №2). Таким образом, игроку просто дают шанс изменить свое решение после того, как одна из «проигрышных» дверей исключается.
На слайдах лекции Гордей демонстрировал три условные «двери» и подписи с обычным огурцом («автомобиль») и дикими огурцами («козы»). «У нас есть три такие двери, нам нужно найти обычный огурец», – говорит лектор, предлагая зрителям мысленно выбрать дверь. После виртуального «открытия» одной из неудачных дверей лектор снова обращается к залу: стоит ли менять наш первоначальный выбор?
На первый взгляд, когда остаются две закрытые двери, шансы кажутся равными.
«Поначалу шанс угадать дверь с машиной — 33%, а попасть на козу — 66%. Когда ведущий убирает одну из «козьих» дверей, вся вероятность (66%) смещается на оставшуюся закрытую. Поэтому смена двери удваивает шанс выигрыша — с 33% до 66%», – поясняет Гордей.
Игровая иллюстрация действительно запутывает, потому что наш мозг упрощает ситуацию до двух дверей и думает о шансах найти приз: «50 на 50» . Однако, как подчеркивает спикер, именно нововведения ведущего меняют картину: до выбора участник оставляет ⅔ шанса на успех незакрытых дверей. Когда ведущий открывает дверь с диким огурцом, зная точно за какой из двух «невыбранных» дверей находится обычный огурец, эти 2/3 переходят на единственную оставшуюся закрытую дверь. Поэтому, если изначально вы выбрали дверь с диким огурцом (2 из 3), переход к другой двери принесёт приз (обычный огурец); если же изначально была угадана дверь с обычным огурцом (1 из 3), смена двери приведет к проигрышу (дикий огурец). Вероятность 2/3 больше 1/3 , так что в итоге смена двери приводит к большему шансу на успех.
Психологи называют феномен, когда люди игнорируют новую информацию и предпочитают исходный выбор, отклонение в сторону статус-кво (англ. status quo bias) или когнитивный диссонанс - ментальное напряжение от столкновения убеждений с новыми данными. Именно поэтому множество людей воспринимали равенство 50/50 как единственно истинное и не хотели отказываться от своей двери. Преподаватель Стэнфордского университета Перси Диаконис отметил, что человеческий мозг плохо решает задачи вероятности и что ответ зависит от мотивации ведущего: если правила шоу меняются, то и расчет шансов может быть иным. «Так, если бы ведущий сам не знал, где спрятан приз, и открывал одну из оставшихся дверей наугад, то после его действия шансы на выигрыш на двух закрытых дверях действительно стали бы равными – по 50 % у каждой», - резюмировал Гордей Зуев.
В качестве более простого объяснения парадокса американская писательница и журналистка, занесенная в Книгу рекордов Гиннесса как обладательница самого высокого в мире IQ, Мэрилин Вос Савант предложила расширить пример до миллиона дверей: игрок выбирает одну дверь (шанс, что он угадал 1 из 1 000 000), после чего ведущий открывает другие 999 998 дверей с «проигрышем», обладая информаций, за какой из оставшихся 999 999 дверей есть «выигрыш», и в этом случае интуитивно становится очевидно, что стоит поменять выбор и переключиться на единственную оставшуюся дверь.
Гордей Зуев показал, как парадокс Монти Холла находит применение в реальных жизненных выборах. Он предложил поразмыслить о повседневных вещах, таких как выбор поиска работы, маршрута до дома или просто гречки в магазине. По его мнению, парадокс напоминает о том, что в мире с множеством опций полезно прислушиваться к новой информации.
«Каждый выбор — это открытие двери. Чем больше у вас дверей, тем больше проходит времени в жизни. Надо понимать, что первая мысль — не всегда самая лучшая и иногда нужно не доверять внутренним ощущениям, а все рассчитать, проанализировать или просто осмелиться выбрать другую дверь», — отметил он.
Даже простая задача, изначально придуманная для развлечения, способна вызвать споры среди академиков, стать учебным примером для студентов и оживить дискуссию в баре. «И пусть объяснение про огурцы напомнило о тонкостях условных вероятностей, главный вывод универсален: при появлении новых данных стоит еще раз очень внимательно подумать над выбором. Возможно, что успех все-таки за соседней дверью», – резюмировал Гордей Зуев.
Антифрод (от англ. fraud – мошенничество) – система (программы, алгоритмы, ручная модерация) для выявления и предотвращения мошеннических действий, как финансовых (платежи, переводы), так и нефинансовых (например, недействительные заявки на сайте). Он анализирует события, используя правила и машинное обучение, чтобы идентифицировать подозрительную активность и блокировать мошенников, защищая пользователей и бизнес.
«Компьютерная безопасность – сфера меча и щита, поскольку всегда есть люди, которые хотят всё сломать, и люди, которые от них защищают», – говорит преподаватель ФКН и эксперт по оценке защищенности Эльдар Валитов. Его задача в антифрод-аналитике – смотреть, всё ли в данных работает как надо, и если нет – думать, как это исправить. На примере нескольких услуг от IT-компаний Эльдар рассказал о проявлениях фрода и мерах борьбы с ним.
Одна из базовых проблем IT-компаний — брутфорс (англ. «грубая сила», взлом паролей подбором — Ред.). Им могут заниматься как отдельные пользователи, так и целые системы подбора паролей. Чтобы выявить такие случаи, антифрод-аналитики используют rule-based подход (англ. «по правилам», привычное поведение пользователя, отход от которого будет считаться мошенничеством – Ред.). Если по данным видны подозрительные многократные попытки входа, объяснил Эльдар Валитов, можно ограничить число попыток войти в аккаунт, заблокировать устройство по IP или установить минимальную длину пароля.
Мошенничество встречается и в капче (от англ. captcha — автоматизированный тест, используемый для проверки, является ли пользователь человеком или компьютерным ботом, с целью защиты веб-сайтов от спама, злоупотреблений и автоматизированных атак — Ред.). «Боты гораздо лучше видят текст капчи, чем мы, я сам иногда полчаса пытаюсь ввести текст, но ничего не получается», – признаётся Эльдар. Бот может использовать быстрое перемещение курсора благодаря телепортации или вводить текст моментально автоматически, однако в продвинутых капчах это также предусмотрено.
Более сложные, по мнению Эльдара, случаи фрода – когда злоумышленник мимикрирует под аккаунт пользователя и совершает за него покупку в онлайн-магазине. Здесь помогает скоринг (от англ. scoring – «оценка») моделей.
«Если поведение пользователей аномально и отличается от привычного, то вы можете понять, что происходит мошенничество», – объяснил эксперт. Модели также помогают понять, что иногда отход от rule-based подхода – это случайность. Не всегда пользователь пытается взломать аккаунт, если пытается много раз войти в него – ведь сам владелец мог забыть пароль и пытаться войти. Для подтверждения попытки взлома нужна модель машинного обучения с миллионной выборкой, подчеркнул Эльдар Валитов.
Однако фрод может принимать экзотические формы. Эльдар привел в пример мошенников, которые копируют каждое объявление с сайта продавца. В результате они, а не легальный продавец, получают клиентов. Одна из компаний, которая столкнулась с таким мошенничеством, решила прикреплять к фотографиям своих автомобилей логотип, который был у них на сайте. Мошенники пошли дальше и стали заменять их логотип на свой. В этой ситуации компании помогла технология машинного обучения adversarial attacks (манипулирование входными данными модели машинного обучения с целью заставить ее выдать неправильные предсказания – Ред.), когда с помощью изменения пикселей изображения каждый логотип незначительно отличался от другого. В результате мошенники утратили возможность автоматически копировать объявления с помощью ИИ, потому что в каждом случае логотип был разный. «Вот так и закончилась история компании, которая воровала объявления, бог им судья», – сказал Эльдар.
Рекомендательные системы социальных сетей также могут стать орудием в руках мошенников. Такие системы анализируют интересы ваших друзей, а затем рекомендуют вам соответствующие мероприятия, товары и услуги. Фрод может подействовать на алгоритмы рекомендаций. Например, пользователю и его друзьям нравятся удочки, а в друзья добавляется человек, который все время пишет про рок-музыку. В результате нейросети начнут предлагать вам рок-концерты, объяснил эксперт. Покупать билеты на мероприятия из соцсетей также стоит осмотрительно, поскольку это может быть частью фрода, добавил он.
Компании со сложным продуктом, которые имеют финансовый недоучет, также могут нарваться на злоумышленников. Мошенники могут притвориться пользователями или рекламодателями ваших продуктов, на деле это будет группа одних и тех же лиц. «Как с этим бороться – без понятия», – признался эксперт. Однако это только подчёркивает важность антифрода: разные виды мошенничества, которые пока не научились контролировать, необходимо исследовать и искать методы защиты от них. «Сами не фродьте, разве что чуть-чуть, и соблюдайте базовую гигиену в сети», – заключил Эльдар.
Кредитный скоринг — система анализа данных, которая позволяет банкам и финансовым организациям оценить вероятность возврата кредита.
«Там, где есть риск, всегда есть и дополнительная прибыль», — подчеркивает старший преподаватель ФКН и заведующий Проектно-учебной лаборатории «Искусственный интеллект в математических финансах» Пётр Лукьянченко. На встрече он рассказал, как искусственный интеллект и нетрадиционные источники данных меняют сферу финансов — от кредитного скоринга и страхования до алгоритмов трейдинга и оценки риска инвесторов.
Классический подход к кредитному скорингу десятилетиями основывался на транзакционных данных, что человек покупает, где тратит деньги, какие у него счета. «Долгое время считалось, что по истории ваших операций можно предсказать, вернете ли вы кредит», — пояснил эксперт.
Но сегодня в индустрии формируется новая гипотеза – поведенческие данные рассказывают о человеке больше, чем его транзакции. Банки всё чаще стремятся анализировать поисковые запросы, активность в онлайн-кинотеатрах и социальных сетях. Это особенно важно для клиентов без кредитной истории — например, для тех, кто только что переехал в другую страну.
Сфера инвестиций также переживает трансформацию. Современные финтех-стартапы демонстрируют, как можно упростить привычные сервисы. Например, одна из компаний создала приложение, где для покупки акций достаточно написать текстовый запрос: «Купи на 50% свободных средств акции компании ХYZ». Алгоритм сам переводит команду в биржевой приказ и отправляет его на исполнение.
Еще один пример — страховая компания Lemonade. Там отказались от традиционных агентов, которые приезжают с линейкой измерять ущерб автомобиля. Вместо этого работает модель компьютерного зрения, которая по фото определяет степень повреждений и автоматически принимает решение о компенсации.
Однако, добавил спикер, подобные решения в странах с жестким регулированием внедряются медленно. Причина в том, что регуляторы склонны допускать ошибку второго рода (ситуация, когда принята неверная нулевая гипотеза, когда система или человек не видит проблему, которая реально есть – Ред.) и лучше случайно отказать пострадавшему клиенту, чем выплатить компенсацию мошеннику.
Однако не все проекты с искусственным интеллектом в финансах оказываются успешными. Так, Amazon пробовала использовать AI-рекрутера для отбора резюме. Система неожиданно стала отсеивать женщин-кандидатов. Расследование показало, что алгоритм попросту учился на перекошенных данных — в его обучающей выборке преобладали резюме мужчин, которые исторически занимали больше позиций и оценивались как «успешные». Поэтому он перенял этот шаблон и стал автоматически занижать рейтинг женщин-кандидаток. В англоязычной терминологии это описывают принципом «Garbage in – garbage out»: если на вход в систему подается «мусор» — некачественные, неполные или предвзятые данные — то на выходе вы получите столь же искажённый результат. AI не устраняет человеческие предубеждения, а лишь масштабирует те, что есть в исходных данных.
Еще один пример, когда в Goldman Sachs пытались обучить языковую модель анализировать новости и помогать трейдерам. Идея выглядела логично, так как рынок облигаций сильно зависит от новостного фона и автоматическая обработка могла бы ускорить работу аналитиков. Но у модели возникла неожиданная проблема — она не справлялась с сарказмом и противоречивыми формулировками.
«Например, фраза «Быки раздавили NASDAQ, а медведи разогнали рынок» для человека очевидна — это игра слов и биржевой оксюморон. Но ИИ не смог интерпретировать такие выражения и сделал неверные выводы», — пояснил эксперт. В итоге проект принес убытки и был закрыт.
В отличие от неудачного опыта Goldman Sachs, в банке JP Morgan ИИ использовали в классической задаче трейдинга: продать огромный пакет акций, не обвалив цену на рынке. Точного решения у задачи нет из-за большого количества параметров. «В JP Morgan подключили языковую модель, которая анализирует новостной фон и предсказывает реакцию рынка, насколько просядет цена, отыграет ли падение или, наоборот, продолжит снижаться, если в этот момент выставить крупный ордер», — пояснил эксперт. В итоге получился AI-трейдер, который в ряде случаев показывает результат лучше, чем люди.
Особую ценность имеет то, что банк опубликовал исследование с подробным разбором и собственными ошибками. По словам лектора, это «классная тема для студентов и исследователей: на таких кейсах можно учиться и искать новые подходы». Эксперименты показывают, что точность прогнозов ChatGPT по динамике акций примерно сравнима с аналитиками — около 60%. «Но стоит появиться жаргону или сложному контексту — и модель ломается. Поэтому внедрять ИИ нужно очень осторожно», — подчеркнул Пётр Лукьянченко.
Эксперт поделился проектом лаборатории искусственного интеллекта математических финансов ФКН ВШЭ: вместо скучных анкет для оценки риска инвестора предлагается тест с изображениями супергероев. По выбору картинок система определяет склонность к риску и формирует профиль инвестора. «Вот вам даем карточки с персонажами и говорим, расположите от того, что больше всего нравится, к тому, что меньше всего нравится. Исходя из этой информации, мы можем сформировать психо-профиль инвестора и составить тем самым его риск-профиль. А также, какой сектор рынка для него является более привлекательным», — объяснил спикер.
Психо-профиль инвестора — это описание того, как человек относится к риску и принимает финансовые решения. Он показывает, насколько инвестор готов рисковать, на какой срок обычно планирует вложения и какие стратегии выбирает.
По мнению эксперта, развитие искусственного интеллекта открывает возможность использовать нестандартные источники данных для финансового анализа. Но вместе с тем это требует аккуратности и внимания к ошибкам.
Авторы: Логинова Елизавета, Артюшенко Федор, Гуркина Александра, исследователи Проектно-учебной лаборатории экономической журналистики
В подписке — дайджест статей и видеолекций, анонсы мероприятий, данные исследований. Обещаем, что будем бережно относиться к вашему времени и присылать материалы раз в месяц.
Спасибо за подписку!
Что-то пошло не так!
