Оказывается, люди больше фейковому контенту доверяют, чем правде? Об этом говорят научные исследования и статистика. Все дело в том, что фейки просты для запоминания и выглядят сенсационно на фоне правды. А с развитием искусственного интеллекта фейки и вовсе вышли на новый уровень. Не исключено, что в скором времени мы можем оказаться в мире постправды, когда нам будет сложно разобраться, истина перед нами или ложь.
Эксперт Элина Монахова
Стажер-исследователь Центра нейроэкономики и когнитивных исследований НИУ ВШЭ
Так как же существовать в этой новой реальности?
Давайте разбираться, но сначала немного теории.
Типы ложной информации
Существуют три основные категории: дезинформация, мисиформация и малинформация.
Дезинформация – это когда человек намеренно распространяет ложную информацию, пытаясь извлечь выгоду из обмана других людей.
Мисинформация подразумевает, что человек распространяет что-то, искренне полагая, что это правда. Это может быть, например, фактологическая ошибка, трудности в переводе или апелляция к недостоверному источнику.
Малинформация – это распространение подлинной информации, но со злым умыслом. Например, передача чьих-то паспортных данных, истории здоровья или личных фотографий третьим лицам.
Как вы могли заметить, особую роль в создании фейков сегодня играют нейросети. Они могут реалистично подделывать голоса, менять изображения и неплохо писать тексты. Слышали ли вы что-нибудь про книгу с «документальными свидетельствами» о лесных пожарах на острове Мауи?
Она стала бестселлером по продажам на «Амазоне» всего за несколько дней. Правда, спустя какое-то время люди осознали, что Майкл Стоунз – это несуществующий автор, а сама книга была написана с помощью технологий искусственного интеллекта. После разоблачения фейка книгу удалили с маркетплейса, однако некоторые сторонники теорий заговора продолжают искренне ссылаться на содержание этой книги и считают пожары на острове заранее спланированной катастрофой.
Почему мы верим фейкам?
Доверие играет решающую роль в процессе принятия решений, формировании стратегий выбора и внутренних установок человека. Мы с коллегами-учеными разделили факторы доверия к информации на три основных категории: характеристики источника сообщения, содержания и потребителя.
К первой категории, можно отнести авторитетность источника информации. Даже если мы знаем, что информация неверна, уважение к статусу и компетенции оратора может сыграть с нами злую шутку.
К особенностям содержания информационного сообщения, можно отнести, например, формат, значимость нарратива и конгруэнтность, то есть соответствие внутренним установкам реципиента.
На конгруэнтности имеющимся убеждениям давайте остановимся подробнее. Для объяснения роли конгруэнтности в восприятии информации часто используется теория дуального процесса мышления Даниэля Канемана. Согласно этой теории, люди задействуют два режима обработки информации: быстрый, интуитивный режим (Система 1) и медленный, преднамеренный режим (Система 2).
Система 1 связана с низким уровнем аналитических рассуждений и большей опорой на когнитивные искажения. Система 2, напротив, связана с высоким уровнем аналитического мышления и предполагает тщательную и систематическую проверку информации.
Люди, задействующие Систему 2, менее подвержены ошибкам и ложным суждениям и, как следствие, доверию фейкам.
Кстати! Проверить свой уровень аналитического мышления можно с помощью теста на когнитивную рефлексию, Cognitive Reflection Test. Этот тест и мы, когнитивные психологи, используем в своих экспериментах, когда нам нужно оценить вашу способность превзойти интуицию.
В 2023 году мы с коллегами провели исследование, в котором постарались объединить несколько факторов доверия к дезинформации и посмотреть, на что люди будут опираться при оценке достоверности дипфейков, на предмет вакцинации от коронавируса. С помощью коллег из Яндекса мы создали совершенно новые аудиальные дипфейки на голоса двух медиа-инфлюенсеров, врача и ковид-диссидента. Интерес материалов был в том, что в дипфейках герои транслировали позиции, противоположные их реальному мнению в адрес вакцинации от коронавируса. Для проведения эксперимента мы приглашали участников двух групп: про- и антипрививочников, которые заранее были ознакомлены с голосами обоих героев и их публичной позицией. Мы предполагали, что люди, столкнувшись с подобными материалами, будут склонны больше доверять тому дипфейку, который будет транслировать их внутренние установки. То есть если врач внезапно стал говорить о вреде вакцинации, ему скорее поверят антипрививочники, и наоборот происходило со сторонниками вакцинации.
Мы учитывали индивидуальные характеристики участников эксперимента, то есть их уровень аналитического мышления, стремление к новым знаниям и склонность к конформизму. Что касается нейрофизиологии, мы записывали активность мозга участников во время просмотра дипфейк-материалов, задействуя технологию электроэнцефалографии. Собственно, участники приходили к нам на эксперимент и после установки ЭЭГ прослушивали аудио-дипфейки в рандомном порядке. После этого им нужно было оценить степень согласия с несколькими утверждениями по шкале от 1 до 7. Утверждения были связаны с убедительностью материалов, авторитетностью ораторов, желанием поделиться информацией с близкими и т.д. После эксперимента участники проходили три теста – на когнитивную рефлексию, потребность в познании и конформизм.
Вопреки нашим предположениям результаты исследовательского проекта показали, что люди не руководствовались внутренними установками, когда оценивали доверие к дипфейкам. Обе группы были склонны доверять дипфейку более авторитетного медиа-инфлюенсера, то есть врача, даже в случае, когда он транслируют позицию, противоположную его публичному мнению. Также нам удалось выяснить, что склонность к познанию негативно коррелировала с доверием к материалам. То есть чем выше уровень потребности к познанию, тем ниже доверие.
В целом подобные результаты говорят о том, что оценка и доверие к контенту формируется за счет достоверности источника и авторитетности спикера. Несмотря на то, что участники не ожидали такой подмены позиций, оратор, обладающий высокой экспертизой, все равно смог убедить людей в правдивости информации, которая, на самом деле, является фейком.
Способы борьбы с фейками
Как бороться с дезинформацией, когда вокруг так много новостей и событий? Ученые попытались ответить на этот вопрос и выявили ряд определенных стратегий. Их можно разделить на два типа: активное участие, то есть вовлеченность, или пассивное отстранение, избегание. Чаще всего люди обращаются ко второму типу: ничего не делают или просто избегают информации из фейковых источников. Что касается активного вмешательства, то здесь сама аудитория может выступать в роли информаторов, предупреждая окружение, чтобы они не поддавались влиянию манипулятивного контента. Но согласно исследованиям, таких людей крайне мало, всего 10%.
К стратегии активного участия относятся не только предупреждающие комментарии пользователей, но и контрмеры на уровне медиа-платформ и социальных сетей. Например, борьба с ботами или же маркировка ненадежных источников, предупреждения о дезинформации и ее коррекция.
Коррекции могут появляться до или после того, как человек столкнулся с фейком. К первым относится пребанкинг, а ко вторым – дебанкинг.
Основная задача пребанкинга – предупредить человека о недостоверной информации, а также помочь ему разобраться в том, как фейк формирует наше доверие. Это может быть предупреждающее сообщение, фактологическое объяснение и лайфхаки для повышения медиаграмотности. Пребанкинг используется не только в медиа, но и в интерактивных обучающих играх. Таких как Bad News game и Breaking Harmony Square. В них участники практикуются отличать фейки от правды, грамотно преподносить новости и избегать манипуляций.
Дебанкинг, в свою очередь, это коррекция и фактологическое объяснение после дезинформации. То есть после фейка предъявляется факт (опровержение, потом цитирование фейка с указанием на его ложность, объясняются фактические ошибки или стратегии введения в заблуждение. После чего снова публикуется опровержение с подтверждающими фактами для усиления эффекта коррекции.
Все элементы этой стратегии вариативны, могут использоваться в ином порядке или по отдельности. Дебанкинг также может быть представлен в формате тэгов и дисклеймеров: метка «Правда/Ложь» или ярлык «Фейк».
Периодически возникают вопросы об эффективности различных форматов дебанкинга. Например, не всегда понятно, что лучше разместить сразу после фейка – факты или разбор манипуляций. Также возникают вопросы о размере пояснительной части и об авторитетности ее источника. В противном случае, может возникнуть эффект ответного огня, когда коррекция дезинформации из-за своей сложности и навязчивости будет не снижать, а увеличивать доверие к дезинформации.
Итак, нам удалось разобраться в основных типах ложной информации, обсудить, почему мы доверяем ей и как с этим бороться. Я также планирую развивать свое исследование и еще сильнее сфокусироваться на авторитетности как факторе доверия к информации. Результаты кажутся интересными, ведь даже несмотря на высокий уровень аналитического мышления и расхождение с внутренними установками, авторитет все еще способен убедить нас в выгодной для него ложной информации. И эта тенденция распространяется далеко за рамки нашего эксперимента.
Фейковые новости и манипулятивный контент вводят в заблуждение сотни тысяч людей по всему миру. С развитием искусственного интеллекта, чат-ботов и других технологий, становится все сложнее отличить правду от лжи.
Поэтому нам крайне важно совершенствовать методы развития критического мышления и повышения медиаграмотности. Даже самые образованные, начитанные и подкованные люди могут стать жертвами манипуляций. Только развивая навыки критической оценки сообщений, мы сможем подготовиться к вызовам постправдивой эпохи.
