Карьера
Бизнес
Жизнь
Тренды
Изображение создано при помощи нейросети
Изображение создано при помощи нейросети

ИИ сказал – я про/поверил: как построить «архитектуру доверия» для нейроаналитики

Возможен ли ответственный ИИ для задач в сфере науки и технологий?

ИИ все чаще становится не помощником, а авторитетом в аналитике. На фоне роста данных специалисты делегируют машинам не только поиск фактов, но и ответственность за выводы. Это меняет роль аналитика: он должен стать интерпретатором и «архитектором доверия». Об этом специально для проекта IQ Медиа «Искусственный интеллект: технологии, данные и будущее» рассуждает Ирина Логинова, заведующая отделом исследований больших данных Центра стратегической аналитики и больших данных ИСИЭЗ, на основе принципов работы системы интеллектуального анализа больших данных iFORA.

Ирина Логинова

Ирина Логинова

Заведующая Отделом исследований больших данных Центра стратегической аналитики и больших данных ИСИЭЗ Высшей школы экономики.

Когда ИИ становится авторитетом

В последние пару лет мы все чаще слышим от коллег-аналитиков: «А что нейросеть скажет?», «А ты прогнал через LLM?». И дело не в том, что аналитики разучились думать. Просто объем информации, с которым мы работаем, вырос до таких масштабов, что держать все в голове и оперативно связывать факты стало физически невозможно. Мы вынуждены делегировать поиск и первичную обработку данных машинам. Но незаметно для себя мы начали делегировать им не только это. Мы начали делегировать им ответственность.

Исследования последнего года фиксируют тревожный тренд: до 80% участников экспериментов с ИИ готовы принять ложный вывод, если он подан уверенно и структурированно. 

В стратегической аналитике эта проблема становится особенно острой, потому что нет «правильного» ответа, который можно сверить с эталоном. Стратегическая аналитика, прогнозирование, форсайт – это пространство множества интерпретаций, альтернативных сценариев, разных картин будущего. И когда ИИ предъявляет свой результат с той же степенью уверенности, что и при решении простых формализованных задач, у аналитиков твердо закрепляется поведенческий шаблон, при котором ИИ воспринимается не как «источник дополнительного аргумента», а как инструмент получения «окончательного вердикта». И это серьезный профессиональный риск. Но есть и другой путь.

От проверки фактов к соавторству «архитектуры доверия»

Раньше, в концепции так называемой аналитики «предыдущего поколения», аналитик осуществлял поиск данных, их обработку с использованием инструментов, а также подготовку выводов – как ключевой результат всей работы. Это была его главная ценность.

Сегодня, в эпоху ИИ, аналитики массово проживают инфляцию компетенций и вынуждены «проходить переквалификацию». Еще буквально год-два назад казалось, что задача упростилась: ИИ генерирует, а человек проверяет. Аналитик стал экспертом по проверке фактов. Звучит солидно, но по сути это «понижение в должности»: ты больше не создаешь знание, а просто фильтруешь чужой «шум». 

Однако в 2026 году перестает работать даже эта модель. Ускоренное развитие RAG-систем и ИИ-помощников на их основе делает верификацию и проверку фактов встроенными функциями. Современный уровень ИИ-инструментов для аналитики давно позволяет извлекать ответы на пользовательские вопросы из конкретных источников данных, сопровождая каждый вывод ссылкой на первоисточник. Грамотно построенная ИИ-система переводит аналитика из роли «проверяющего» в роль «интерпретирующего».

Но это не единственное изменение. 

На смену специалисту по проверке фактов приходит аналитик нового типа: не тот, кто проверяет чужие выводы, а тот, кто отвечает за качество архитектуры, в которой эти выводы рождаются.

Что это значит на практике? В iFORA это выглядит так:

  • Поиск качественных источников. Аналитик не просто «загружает документы», а целенаправленно ищет надежные источники документных данных, оценивает их релевантность для текущих и потенциальных проектов
  • Обеспечение полноты, глубины, разнообразия. В работе с каждым тематическим направлением (например, по отраслям) аналитик стремится обеспечить актуальность, а также максимальную полноту охвата и разнообразие источников
  • Умная подготовка документов для машинной обработки. Аналитик тегирует документы, следит за наличием метаданных, чтобы пользователи могли удобно фильтровать и отбирать информацию по своим критериям в процессе работы с ИИ-системой
  • Работа с узкими доменами, по которым «нет данных». Если по узкой теме нет готового датасета, аналитик собирает его вручную из научных публикаций и аналитических отчетов. Это позволяет закрывать те запросы, где большие данные бессильны из-за того, что «перекрывают» важные слабые сигналы новейших технологических направлений

С прошлого года под эгидой iFORA мы реализуем подход так называемого краудсорсингового сбора данных для дообучения большой языковой модели на базе iFORA: любой эксперт ИСИЭЗ может направить подборку документов в зоне своей экспертизы, чтобы мы загрузили их в общую базу. Так мы не только расширяем базу знаний, но и вовлекаем профессиональное сообщество Института в ее формирование.

Такой комплексный подход со стороны аналитической команды iFORA закладывает основу для разработки ИИ-системы с высоким уровнем доверия к формируемым выводам. 

Важно, что такой подход эффективен не только для Университета и научных задач. Мы видим, как он масштабируется на бизнес-среду, где корпоративные базы знаний точно так же являются драйвером развития ответственного ИИ в организациях. И с 2025 года в Институте статистических исследований и экономики знаний ведется разработка корпоративного ИИ-ассистента на базе системы iFORA, реализующего принципы «архитектуры доверия».

Как работает ИИ-ассистент iFORA: прозрачность и проверяемость

ИИ-ассистент не генерирует ответы из «общих» знаний модели, а извлекает их из загруженной базы знаний, например корпоративных отчетов, технической документации, внутренних регламентов, научных и аналитических материалов и др. Работа происходит строго во внутреннем контуре организации без рисков утечки загружаемой информации. 

За годы разработки ИИ-систем для аналитиков мы смогли добиться высоких показателей точности получаемых ответов и скорости их генерации. Пользователь ИИ-ассистента на базе iFORA получает:

  • Содержательные ответы без галлюцинаций, основанные на проверенных внутренних источниках;
  • Экономию 90% времени* на поиск и анализ информации: среднее время ответа ИИ-ассистента – 10 секунд; 
  • Управляемость и возможность масштабирования: подключение к корпоративным базам знаний любого объема.

*Оценка основана на исследованиях и кейсах внедрения ИИ-ассистентов для работы с корпоративными знаниями.

«Архитектура доверия» как новый стандарт в ИИ-аналитике

Три ключевых принципа, которые мы используем в разработке аналитических ИИ-систем - это ответственность за базу знаний, прозрачность как обязательное условие, адаптация под реальные задачи. Но архитектура доверия - это не только про технические решения. Это про новые стандарты профессии аналитика. Сегодня аналитик становится тем, кто устраняет структурные разрывы между задачами бизнеса и возможностями искусственного интеллекта. 

В этом смысле архитектура доверия - это про культуру, где каждый участник отвечает за то, будет ли ИИ-система полезна или останется «генератором красивых текстов». И сегодня у нас есть шанс эту культуру не просто декларировать, а в действительности построить - на основе, в первую очередь, своей личной ответственности.