Изображение создано при помощи нейросети
Современный бизнес сталкивается с тремя взаимосвязанными вызовами: стремительный рост популярности ИИ-инструментов, экспоненциальное увеличение объемов данных и нарастающая неопределённость внешней среды. Как не потеряться в этом потоке и принимать стратегически верные решения? Сотрудники компаний все чаще ожидают, что внедряемые ИИ инструменты будут решать их рабочие задачи за них. Но это не совсем так.
Михаил Комаров
Кандидат технических наук, PhD; профессор Департамента бизнес-информатики Высшей школы бизнеса Высшей школы экономики, главный научный сотрудник Центра стратегической аналитики и больших данных Института статистических исследований и экономики знаний Высшей школы экономики.
В рамках научно-популярного проекта «Искусственный интеллект: технологии, данные и будущее» разберем ключевые проблемы и пути их решения на примере системы интеллектуального анализа больших данных iFORA, разработанной в Институте статистических исследований и экономики знаний НИУ ВШЭ.
Искусственный интеллект сегодня проникает во все сферы — от внутренних помощников до поддержки клиентских коммуникаций и участия в принятии решений. По прогнозным оценкам ИСИЭЗ НИУ ВШЭ, совокупный вклад от использования ИИ во всех отраслях экономики в ВВП России может достигнуть 11,6 трлн руб. к 2030 г. и 46,5 трлн руб. к 2035 г., что указывает на системный характер трансформации в отраслях. Производительность растет за счет оптимизации ресурсов и управления данными, при этом функции все чаще перераспределяются между человеком и алгоритмами.
Однако, чем шире внедрение, тем острее встает проблема доверия к результатам. В чем опасность. По данным отчета Ivanti о зрелости ИИ к 2026 году, 68% ИТ-специалистов сталкивались с галлюцинациями машинных моделей, способными повлиять на работу инфраструктуры. Галлюцинация возникает, когда модель генерирует результаты, не соответствующие ни ее обучающим данным, ни предоставленным входным данным. В управленческом контексте это особенно критично: ошибка в чувствительной зоне может привести к финансовым потерям, юридическим рискам или искажению стратегических решений. Хуже всего, что без высокого квалификационного уровня нельзя определить, «додумала» что-то нейросеть (а именно предложила данные, которых нет), или просто предлагает «ошибочное» решение.
Современные модели менее склонны к очевидным галлюцинациям, но порождают более тонкие искажения — «заблуждения высшего порядка». Данные искажения могут формировать повестку, валидировать ошибочные стратегии и размывать культуру критического мышления в принятии решений. Задумываясь о данной проблеме при проектировании iFORA-ассистента, в основу, мы заложили архитектуру RAG (Retrieval-Augmented Generation) — диалоговую систему на базе большой языковой модели, которая работает не с «всеми знаниями мира», а с ограниченной, тщательно подобранной базой данных. Причем компания-пользователь сама может загружать туда только верифицированные документы, тщательно следить за их актуальностью и достоверностью. Это значительно снижает риск выдачи неправильных ответов. Надо отдельно отметить участившиеся в последнее время «отключения» внешних зарубежных больших языковых моделей, что ставит под угрозу использование инструментов ИИ в бизнес-процессах компаний. Однако при использовании валидированной модели iFORA.LLM, которая устанавливается локально внутри ИТ-контура компании, такие риски отсутствуют.
Синтетические данные - одно из самых обсуждаемых направлений в аналитике. Они открывают возможности для безопасного моделирования, анонимизации реальных наборов данных с сохранением их аналитической ценности и обучения моделей в условиях дефицита реальных данных. Синтетические данные используются при тестировании пользовательского пути, новых продуктовых решений и др. Однако, синтетические данные возможно использовать только тогда, когда у компании уже есть собственная статистика, которой достаточно для «генерации» новых наборов данных. А в компаниях, где объем статистики невелик, стремительное внедрение синтетических данных порождает феномен «синтетического доверия». «Синтетическое доверие» - необоснованная уверенность в моделях, обученных на искусственно сгенерированных наборах, которые могут не сохранять клиническую валидность или демографические реалии.
Оценка качества синтетических данных требует системного подхода, включающего проверку достоверности, полезности, конфиденциальности, справедливости и надежности, что требует существенных ресурсов компании и сводит на нет ранее полученную экономию за счет использования подобной техники. Верификация использования той или иной большой языковой модели обеспечивает репрезентативность и достоверность аналитики. Такой подход позволяет избежать рисков, связанных с «синтетическим доверием», и дает пользователям уверенность в качестве исходных данных.
Организации тонут в данных. Перегрузка рабочих процессов низкокачественными результатами и рост затрат на проверку данных ведут к «деградации знаний», падению доверия и пересмотру подходов к использованию генеративных моделей в бизнесе. Как отмечают эксперты, «слишком много нефильтрованной информации может быть так же опасно, как и слишком мало». Возникает парадокс: чем больше данных, тем сложнее извлечь из них ценные инсайты.
Одним из перспективных направлений для работы является внедрение собственных ИИ-агентов. Под ИИ-агентами эксперты понимают системы с разным уровнем автономности принятия решений – от простых чат-ботов, которые по определенным правилам взаимодействуют с пользователем, до полностью автономных программных агентов, которые решают поставленную задачу пользователем в установленные сроки и согласно принятым критериям качества и представляют итоговый результат. В таких случаях, пользователь по факту, доверяя, результату, использует его в своей деятельности. Однако, согласно статистике, человек играет ключевую роль* в принятии решений и «автономным» агентам доверяют значительно меньше компаний. Что же это означает? Это означает, что в компании должно быть множество различных агентов, которые участвуют так или иначе в различных бизнес-процессах и для ИТ-инфраструктуры компании они не должны быть разнородными, а значит надо говорить о единой мультиагентной архитектуре и платформе.
Основные направления применения ИИ-агентов охватывают широкий спектр корпоративных задач - от обслуживания клиентов до инженерных и инфраструктурных операций. Их объединяет то, что агенты становятся активными субъектами внутри бизнес-процессов, принимающими решения и выполняющими действия, которые ранее осуществлялись сотрудниками. Текущая практика подтверждает, что сферой наибольшего распространения остаются те сегменты, где можно обеспечить недвусмысленное понимание контекста, стабильное управление рисками и прямую связь автономных действий с экономическим результатом.
Использование системы интеллектуального анализа больших данных iFORA для работы внутри своих бизнес-процессов позволит получить ещt один инструмент, который превращает информационный шум в структурированное знание. Например, на основе загруженной информации можно систематизировать и картировать риски, можно онлайн выявлять ключевые тренды развития и идентифицировать потенциальные технологические угрозы еще на ранних этапах, до того, как они становятся заметными на рынке или в отрасли. В условиях, когда информация противоречива и избыточна, способность системы фильтровать, структурировать и интерпретировать данные становится критической.
В условиях высокой неопределенности и информационной перегрузки ключевым становится не просто доступ к данным, а способность извлекать из них достоверные инсайты для принятия стратегических решений без зависимости от внешних зарубежных больших языковых моделей. iFORA предлагает системное решение: валидированные источники, архитектуру RAG для минимизации галлюцинаций, мультиагентный подход для выявления скрытых закономерностей и экспертизу НИУ ВШЭ для интерпретации результатов. Анализируйте данные, и вы снизите риски в своих задачах. iFORA уже знает.
* 4 IBM Newsroom. Businesses View AI Agents as Essential, Not Just Experimental. IBM Press Release, 2025. URL: https://newsroom.ibm.com.
В подписке — дайджест статей и видеолекций, анонсы мероприятий, данные исследований. Обещаем, что будем бережно относиться к вашему времени и присылать материалы раз в месяц.
Спасибо за подписку!
Что-то пошло не так!
