Алгоритм “расизм” используется для домашнего офиса, чтобы принять решение о выдаче визы было удалено после того, как активисты предупредили, что он поступил как “ускоренную посадку для белых людей”.
Совместная Совет по благосостояние из иммигрантс (проведенное jcwi) и цифровыми правами группы наперстянки начал судебный иск против техники которая, по их словам “скрытый расизм и предвзятость” в процессе получения визы.
Алгоритм, который был использован в дома, офиса, начиная с 2015 года, работал автоматически выделять для каждого человека с зеленым, желтым или красным оценкой на основе информации, представленной в визу.
Наперстянка якобы, что Министерство внутренних дел хранится «секретный список подозрительных национальностей», которая сможет автоматически получить красный рейтинг.
Государственный секретарь по Департамент внутренних дел Прити Патель обязуется редизайн системы и заявил, что использование алгоритма будет “приостановлено” с пятницы, 7 августа.
В письме к группам, правительство, адвокат заявил, что комментарий не означает, что г-жа Патель “принимает обвинения”, выдвинутые.
В письме также говорится, что Министерство внутренних дел “уже отошли” от использования потокового инструмента.
“Учитывая относительно низкие объемы визовых заявлений с начала Covid-19 пандемии, и воздействие пандемии на международные поездки, было решено, что настало время, чтобы воспользоваться низкими числом зарубежных заявок перепроектировать систему сейчас”, — говорится в письме.
Что такое алгоритмическая предвзятость?
Министерство внутренних дел сказал, обработки визовых заявлений будет проводиться со ссылкой на “человека-ориентированных атрибутов”, со ссылкой на доказательства предыдущих поездок в качестве примера. В письме также было указано, что гражданство будут “не учитываться”. Реконструкцию планируется завершить к 30 октября.
Наперстянка директор и основатель Кори Crider сказал, что Министерство внутренних дел “не видел смысла” в слом инструмента, впереди судебное рассмотрение
“Расистские петли обратной связи означает, что то, что должно было был объективный процесс миграции на практике, только ускоренную посадку для белых людей”, — заявила она.
“Нам нужна демократия, а не власть алгоритма. Прежде чем дальше системы вам выкатили, давай эксперты задать и общественности, было ли автоматизация уместен на все, и как исторического предубеждения, которые могут быть замечены и выкопали с корнем.”
Директор по правовой политике проведенное jcwi чай Патель сказал, что иммиграционная система должна быть “перестроен с нуля”, чтобы следить за предубеждения.
“Это, инструмент, понадобились десятилетия институционально расистской практики, такие как поражение отдельных национальностей по вопросам иммиграции рейды, и превратил их в программу”, — сказал он.
Министерство внутренних дел сказал им рассматривалась как потоковый инструмент работает. Пресс-секретарь сказал: “Мы не принимаем утверждения совместного совета по благосостоянию иммигрантов в их судебном иске комментарий и хотя тяжба все еще продолжается это не было бы уместно для департамента от дальнейших комментариев.”
Свежие комментарии