Эксперты говорят, что, хотя инструмент предназначен для повышения безопасности, ему не хватает нюансов, и он рискует усилить предвзятость в системе уголовного правосудия
Эксперты говорят, что проверка биографических данных может усилить дискриминацию чернокожих и коричневых людей, которые несоразмерно преследовались полицией. Фотография: Аамир Куреши/AFP/Getty Images Эксперты говорят, что проверка биографических данных может усилить дискриминацию чернокожих и коричневых людей, которые несоразмерно преследовались полицией. Фотография: Аамир Куреши/AFP/Getty ImagesJohana Bhuiyan, пятница, 11 марта 2022 г., 21:31 по Гринвичу. Последнее изменение: пятница, 11 марта 2022 г., 22:25 по Гринвичу
С этой недели пользователи Tinder смогут проверять свои потенциальные даты на наличие судимостей. Эта функция, запущенная в партнерстве с Garbo, провайдером проверки биографических данных, который стремится сделать информацию о общественной безопасности более доступной, предназначена для того, чтобы пользователи Tinder чувствовали себя в большей безопасности.
Но эксперты, которые специализируются в сексуальном насилии и слежке заявили, что этот шаг ошибочен и может усилить предубеждения, присущие системе уголовного правосудия.
Проверки биографических данных — это грубые инструменты, которые скрывают некоторые фундаментальные нюансы, в том числе тот факт, что большинство людей, обвиняемых в сексуальном насилии, не взаимодействуют с системой уголовного правосудия, — сказал Альберт Фокс Кан, основатель Surveillance Technology. Надзорный проект. По данным организации Rainn, занимающейся борьбой с сексуальным насилием, в полицию поступает только 310 из 1000 случаев сексуального насилия.
«[Инструмент] предполагает, что участие в уголовном судопроизводстве является существенным фактором риска при обнаружении тех, кто будет представлять опасность в будущем, но у подавляющего большинства нарушителей нет судимостей», — сказал Кан.
Кроме того, эта функция может усилить дискриминацию чернокожих и коричневых людей, которые несоразмерно преследовались полицией. «Tinder не понимает, что все данные о криминальном прошлом в США непоправимо искажены дискриминацией, что дает глубоко предвзятое представление о том, кто представляет «риск», а кто «в безопасности».
Инструмент проверки биографических данных Гарбо позволяет пользователям Tinder искать, есть ли у кого-то судимость, используя их имя, номер телефона и возраст. «Мы знаем, что самым большим индикатором будущего жестокого обращения или насилия является история такого поведения. Будь то онлайн-знакомства или десятки других способов, которыми мы встречаемся с незнакомцами в сегодняшнюю цифровую эпоху, мы должны знать, потенциально ли мы подвергаем свою безопасность риску», — заявила основатель Garbo Кэтрин Космидес в заявлении, анонсирующем инструмент.
Но использовать прошлые насильственные уголовные обвинения для прогнозирования будущих актов насилия сложно, говорит Николь Бедера, докторант Мичиганского университета, изучающая гендерное и сексуальное насилие с упором на сексуальное насилие в колледже.
Например, жертвы домашнего насилия, которые занимаются самообороной, часто наказываются системой уголовного правосудия за эти действия, сказала она. «В некоторых случаях, да, люди, совершившие акт насилия и признанные виновными в этом в уголовном суде, продолжат совершать акты насилия в будущем. Но у вас также есть люди в этой категории, которые не принадлежат к ней».
[Это может] привести к тому, что у людей возникнет ложное чувство безопасности, хотя на самом деле они не в безопасности. Николь Бедера, Мичиганский университет
По ее словам, именно эта сложность делает такой инструмент, как проверка биографии, неэффективным и бесполезным в отсеивании небезопасных совпадений.
Бедера обеспокоен тем, что вред от этого инструмента может превзойти любые преимущества, особенно если он дает пользователям Tinder ложное чувство безопасности. Низкий уровень сообщений и осуждений за сексуальное насилие означает, что даже те, кто совершал насильственные преступления в прошлом, могут не быть отмечены проверкой биографических данных, потому что о них никогда не сообщалось.
«На самом деле мы говорим о небольшой группе людей, которые когда-либо были осуждены за одно из этих преступлений», — сказал Бедера, что означает, что это может «вызвать у людей ложное чувство безопасности, хотя на самом деле они не в безопасности». /p>
Tinder не ответил на запрос о комментариях к моменту публикации, но сообщил в своем объявлении, что компания также сотрудничает с Национальной горячей линией по вопросам домашнего насилия, «чтобы обеспечить выжившим 24 часа в сутки». 7 доступ к ресурсам и информации, включая прямое подключение к чату на Garbo».
Бедера считает, что ресурсы Tinder было бы лучше потратить на действия, которые они видят на своей платформе, например, на удаление кого-то, кто участвует в домогательствах. Она также предложила Tinder инвестировать в половое воспитание.
«Я бы хотел, чтобы Tinder работал над решением, которое, как мы знаем, действительно эффективно предотвращает сексуальное насилие, — сказал Бедера, — который поддерживает всестороннее половое воспитание в государственных школах».
Кроме того, Кан сказал, что существует множество проблем с конфиденциальностью и слежкой, включая предоставление доступа к информации, которая может быть неверной или предвзятой. широкая аудитория с небольшими средствами исправления ошибки. «Нормализация такого рода слежки за брокерами данных также создает целый ряд красных флажков», — сказал он, указывая на неправильное представление о том, что прошлые преступления являются окончательным предиктором будущих преступлений. «Каждый раз, когда Кремниевая долина продает нам хрустальный шар для наблюдения, они утверждают, что предсказывают, кто будет представлять угрозу в будущем, но (в лучшем случае) это может просто усилить вред того, как люди были профилированы в прошлом».
Свежие комментарии