Исследование показало, что Big Tech не может обнаружить расистские посты с использованием эмодзи

Маркус Рэшфорд пропустил пенальти в финале Евро-2020 против Италии

Исследователи из Оксфорда обнаружили, что стандартная технология модерации неоднократно допускала ошибку, заключающуюся в безобидности смайликов.
Это связано с тем, что программное обеспечение искусственного интеллекта, стоящее за инструментами безопасности, хотя и хорошо распознает расистские слова или письменные настроения, не было запрограммировано на распознавание смайликов как ненавистных.

Исследователи написали: «Контент, вызывающий ненависть, сложен и разнообразен, что затрудняет его обнаружение. Одна из особых проблем — использование эмодзи для выражения ненависти.

«Существующие коммерческие и академические модели плохо справляются с выявлением ненависти, когда термин идентичности был заменен представлением смайликов, хотя они хорошо справляются с выявлением эквивалентных текстовых утверждений. Это указывает на то, что модели не понимают, что представляют собой смайлики (например, расу, сексуальность или гендерные характеристики) ».

В июле босс Instagram Адам Моссери признал, что приложение для обмена фотографиями не смогло уловить оскорбительные комментарии, отправленные игрокам после окончательного поражения в Европе. «Мы ошибочно отметили некоторые из них как безобидные комментарии, а на самом деле это не так», — сказал он.

Во вторник Twitter сообщил, что удалил 1622 оскорбительных твита, отправленных во время финала. В нем говорится, что большинство этих учетных записей не были «анонимными», и подавляющее большинство оскорбительных сообщений были отправлены учетными записями из Великобритании.

«Великобритания была крупнейшей страной происхождения оскорбительных твитов, которые мы удалили в ночь на Финал и в последующие дни», — заявила технологическая компания.