Facebook работает с правительственным агентством Австралии над пилотным запуском этой технологии. Фотография: агентство Anadolu/Getty Images
Facebook просит пользователей присылать компании свои обнаженные фотографии, чтобы бороться с порноместью, в попытке вернуть контроль жертвам этого типа злоупотребления.
Люди, которые поделились интимными, обнаженными или сексуальными изображениями с партнерами и обеспокоены тем, что партнер (или бывший партнер) может распространять их без их согласия, могут использовать Messenger для отправить изображения для «хеширования». Это означает, что компания преобразует изображение в уникальный цифровой отпечаток пальца, который можно использовать для идентификации и блокировки любых попыток повторной загрузки того же изображения.
Facebook тестирует эту технологию в Австралии в партнерстве с правительственным агентством, возглавляемым комиссаром по электронной безопасности Джулией Инман Грант, которая сообщила ABC, что это позволит жертвам «насилия на основе изображений» принять меры до того, как фотографии будут опубликованы в Facebook, Instagram или Messenger.
«Мы видим много сценариев, когда, возможно, фотографии или видео были сняты по обоюдному согласию в какой-то момент, но не было никакого согласия на отправку изображений или видео в более широком смысле», — сказала она австралийскому вещателю.
Кэрри Голдберг, юрист из Нью-Йорка, специализирующаяся на сексуальной конфиденциальности, сказала: «Мы рады, что Facebook помогает решить эту проблему — проблему, с которой сталкиваются не только жертвы фактического порно из мести, но и люди, опасающиеся неизбежно становятся жертвами.
«С его миллиардами пользователей Facebook — это место, где многие правонарушители проявляют агрессию, потому что они могут максимизировать вред, транслируя порно без согласия тех, кто наиболее близок к жертве. Так что это эффектно».
В австралийском пилотном проекте пользователи должны сначала заполнить онлайн-форму на веб-сайте уполномоченного по электронной безопасности, изложив свои опасения. Затем их попросят отправить фотографии, которые их беспокоят, себе в Messenger, в то время как офис уполномоченного по электронной безопасности уведомит Facebook об их отправке. Как только Facebook получит это уведомление, аналитик операций сообщества получит доступ к изображению и хэширует его, чтобы предотвратить загрузку или распространение экземпляров в будущем.
Facebook будет хранить эти изображения в течение короткого периода времени, прежде чем удалить их, чтобы обеспечить правильное соблюдение политики, заявила компания.
Согласно отчету Data & Научно-исследовательский институт общества. Доля возрастает до 10 %, когда речь идет о женщинах моложе 30 лет.
Это основано на существующих инструментах, которые Facebook использует для борьбы с порноместью. В апреле сайт социальной сети выпустил инструменты для жалоб, позволяющие пользователям помечать интимные фотографии, размещенные без их согласия, «специально обученным представителям» из группы по работе с сообществом сайта, которые «просматривают изображение и удаляют его, если оно нарушает стандарты сообщества [Facebook]». После удаления изображения используется технология сопоставления фотографий, чтобы предотвратить повторную загрузку изображения.
Facebook и другие технологические компании используют этот тип технологии сопоставления фотографий, при которой изображения «хешируются» для обработки других типов контента, включая сексуальное насилие над детьми и экстремистские изображения.
Эта технология была впервые разработана в 2009 году Microsoft в тесном сотрудничестве с Дартмутом и Национальным центром пропавших без вести и эксплуатируемых детей, чтобы пресечь одни и те же изображения детей, подвергшихся сексуальному насилию, которые снова и снова распространяются в Интернете. Была технология, которая могла находить точные совпадения изображений, но злоумышленники могли обойти это, слегка изменив файлы — либо изменив их размер, либо добавив небольшую метку.
PhotoDNA’s “ Технология сопоставления hash позволила идентифицировать известные незаконные изображения, даже если кто-то их изменил. Facebook, Twitter и Google используют одну и ту же базу данных хэшей для выявления и удаления незаконных изображений.
Хэни Фарид, профессор компьютерных наук в Дартмуте, который участвовал в разработке PhotoDNA, описал пилотный проект Facebook. как «потрясающую идею».
«Развертывание этой технологии не помешает кому-то делиться изображениями за пределами экосистемы Facebook, поэтому мы должны призвать все онлайн-платформы участвовать в эту программу, как и PhotoDNA», — сказал он.
Представительница Facebook сообщила, что компания ищет дополнительных партнеров и страны.
Связаться с автором: olivia.solon@theguardian.com
Recent Comments