Новая работа учёных раскрывает механизм цифровой предвзятости мышления
Масштабное исследование с участием 10 тысяч человек показало, что даже нейтральные поисковые запросы неосознанно искажаются нашими убеждениями, а традиционные алгоритмы только усиливают этот эффект.
Фото: Shatokhina Natalia/news.ru/Global Look Press
В эпоху, когда цифровые технологии пронизывают все аспекты жизни человека, феномен информационных пузырей превратился в одну из самых острых проблем современного общества. Новое исследование проливает свет на удивительный механизм, благодаря которому люди сами, часто не осознавая этого, создают вокруг себя информационные эхо-камеры. Американские ученые провели 21 эксперимент с участием почти 10 тысяч человек, чтобы понять, как предубеждения людей влияют на поисковые запросы, а алгоритмы поисковых систем и ИИ-ассистентов усиливают этот эффект, создавая порочный круг самоизоляции в информационном пространстве.
Исследование началось с личного опыта одного из авторов работы, Юджины Люнг, которая заметила, как формулировка поискового запроса кардинально меняет получаемую информацию. «Поиск «побочных эффектов лекарств от простуды» дал мне совсем другие и гораздо более тревожные результаты, чем запрос «лучшее лекарство от симптомов простуды», — рассказывает Люнг. — Это наблюдение стало отправной точкой для систематического изучения того, как наши собственные убеждения формируют цифровую реальность, в которой мы оказываемся».
В серии экспериментов участникам предлагалось выразить свое мнение по различным темам — от влияния кофеина на здоровье до перспектив ядерной энергетики — а затем самостоятельно сформулировать поисковые запросы для получения дополнительной информации. Результаты оказались поразительными: люди, считавшие кофеин полезным, искали «преимущества кофеина», тогда как скептики вводили «опасность кофеина». Эта закономерность сохранялась для всех исследованных тем, включая цены на бензин, уровень преступности и возрастные изменения когнитивных способностей.
Особенно показательным стал эксперимент с ядерной энергетикой, где участников случайным образом разделили на две группы: одним предложили искать «ядерная энергия — это хорошо», другим — «ядерная энергия — это плохо». После ознакомления с результатами поиска убеждения участников изменились в противоположных направлениях, демонстрируя мощное влияние формулировки запроса на формирование мнения. При этом, когда участникам показывали идентичные результаты под видом соответствующих их запросам, их убеждения не менялись — что доказывает ключевую роль именно содержания поисковой выдачи, а не самого факта выбора тех или иных ключевых слов.
«Все мы создаем свои собственные мини-эхо-камеры, даже не осознавая этого, — комментирует Люнг. — Наши существующие убеждения неосознанно влияют на слова, которые мы вводим в строку поиска, а алгоритмы, ориентированные на релевантность, показывают нам результаты, подтверждающие эти убеждения».
Наиболее перспективные результаты принесло изменение самих алгоритмов. В экспериментах с пользовательской поисковой системой, но показывающей сбалансированные результаты (например, информацию как о пользе, так и о рисках кофеина даже при запросе «преимущества кофеина»), участники демонстрировали более умеренные взгляды, при этом оценивая полученную информацию как столь же релевантную и полезную.
«В мире технологий бытует мнение, что пользователям требуется сверхрелевантная, узконаправленная информация, — отмечает Люнг. — Однако наши исследования показывают, что это не так. Люди одинаково высоко оценивают и узконаправленные, и более сбалансированные результаты, что открывает возможности для проектирования алгоритмов, способствующих формированию более объективной картины мира».
Исследование также выявило важный парадокс: большинство участников не осознавали, что их поисковые запросы носят предвзятый характер, и отрицали намеренное подтверждение своих убеждений.
Авторы подчеркивают, что эффект проявляется не во всех ситуациях: для тем с высокой общественной заметностью, где большинство использует одинаковые нейтральные запросы, или в случаях, когда информация уже предварительно отфильтрована платформами, разница в результатах может быть менее выраженной.
«Наша главная цель — использовать эти знания для создания более здоровой информационной экосистемы, — говорит Люнг. — Мы видим потенциал в разработке новых стандартов поиска и ИИ, которые по умолчанию учитывали бы психологию человека, предлагая более широкую перспективу без ущерба для релевантности».
Свежие комментарии