StolicaMedia, 29 января. Исследователи НИУ ВШЭ выяснили, что при восприятии аудиодипфейков решающую роль играет не личное мнение человека, а авторитет спикера. Даже если высказывание противоречит прежней позиции говорящего или убеждениям слушателя, ему все равно склонны доверять. Об этом говорится в пресс-релизе НИУ ВШЭ, который имеется в распоряжении ИА StolicaMedia.
Сотрудники Института когнитивных нейронаук НИУ ВШЭ провели исследование, посвященное восприятию аудиодипфейков — реалистичных поддельных записей речи, созданных с помощью искусственного интеллекта. Работа опубликована в научном журнале NeuroImage (18+).
Поводом для исследования стало активное распространение дипфейков и рост дезинформации, в том числе в чувствительных сферах, таких как здравоохранение. Ошибочные или ложные сообщения, приписываемые известным людям, могут оказывать серьезное влияние на общественное мнение и поведение.
В эксперименте приняли участие 61 человек, разделенные на две равные группы — сторонников и противников вакцинации от COVID-19. Участникам предлагали прослушать ИИ-сгенерированные аудиозаписи, в которых якобы известный врач и популярная актриса высказывались по теме прививок. При этом в ряде случаев персонажи произносили утверждения, противоречащие их реальной публичной позиции.
Во время прослушивания ученые фиксировали активность мозга с помощью электроэнцефалографии. Особое внимание уделялось потенциалу N400 — нейрофизиологической реакции, возникающей при смысловом несоответствии услышанной информации. Анализ показал, что такой сигнал возникал, когда утверждение не совпадало с ожидаемой позицией спикера, однако его выраженность зависела от статуса источника.
Результаты показали, что участники независимо от собственных взглядов оценивали слова врача как более убедительные и заслуживающие доверия, даже когда его высказывания шли вразрез с прежними заявлениями. Противоречивые фразы, приписанные актрисе, воспринимались значительно слабее.
"Изначально мы предполагали, что на восприятие аудиозаписи будут влиять личные убеждения участников. Именно поэтому мы заранее выяснили, поддерживают ли они вакцинацию или выступают против, и разделили их на две группы. Кроме того, мы провели специальные тесты, чтобы определить их уровень аналитического мышления, стремления к познанию и склонности к конформизму. Однако при прослушивании дипфейков оказалось, что все эти параметры почти не имеют значения. Решающим фактором выступает именно авторитет в медицинской области", — пояснила первый автор исследования, младший научный сотрудник Центра нейроэкономики и когнитивных исследований ИКН НИУ ВШЭ Элиана Монахова.
Авторы подчеркивают, что полученные данные важны для понимания механизмов распространения недостоверной информации. Они показывают, насколько уязвимым может быть общество перед манипуляциями, если ложные сообщения подаются от имени авторитетных фигур.
Исследование выполнено при поддержке Российского научного фонда в рамках проекта, посвященного нейрофизиологическим механизмам восприятия манипулятивной информации.
Ранее ИА StolicaMedia писало, что ротивостояние США и Китая в области искусственного интеллекта вышло на новый уровень. Аналитики Института статистических исследований и экономики знаний НИУ ВШЭ отмечают, что технологический протекционизм становится устойчивым элементом мировой экономики. По мнению экспертов, он напрямую влияет на расстановку сил в сфере ИИ.