Правительство Новой Зеландии говорит, что это первая в мире выпустила набор стандартов как государственных органов следует использовать алгоритмы, которые чаще стимулируют принятия решений должностными лицами о каждой сфере общественной жизни.
Все более широкое применение алгоритмов правительств во всем мире – особенно, когда они развернуты в профиль или генерировать решения о гражданах правоохранительных органов, иммиграции, социального обеспечения и учреждений здравоохранения – оказалось спорным в последние годы. Критики утверждают, что процесс принятия решений обусловлен строк кода могут быть неточными и дискриминации и что их использование часто держатся в секрете от общественности.
Цифровая антиутопия: как алгоритмы наказать бедных
Подробнее
Голландский суд постановил в феврале, что автоматизированная система наблюдения, чтобы обнаружить жуликом был незаконным, и это решение вызвало дискуссии о необходимости более тщательной проверки в других странах.
Новая Зеландия не является исключением: в 2019 Обзор алгоритм использования в государственном секторе была найдена “огромная изменчивость в масштабах применения, и как они были использованы”, — сказал Джеймс шо, статистику министра и лидера левого толка партии Зеленых.
Он сказал, что алгоритмы определяют вопросы от, казалось бы, безобидные – например, когда светофор поменялся на центральной улице Веллингтон – к более серьезным, в том числе принятие решений полиции для оперативных работников, и их использование расширяется.
Новая Зеландия устава, которое Хранитель просмотрел, объясняется запуском во вторник с 19 государственными учреждениями в качестве первых участников. В нем, отделы залога была публичной, о том, как принятие решений, основанное на алгоритме, в том числе о “простом английском языке” объяснения; представлять информацию о процессах, использовать и как хранятся данные, если не запрещено законом (например, по соображениям национальной безопасности); и выявлять и устранять перекосы информирование алгоритмов.
Учреждения должны также рассмотреть те АО маори, или коренных, мировоззренческих установок о сборе данных – в Новой Зеландии, маори составляют непропорционально большую долю в юстиции и пенитенциарной системы и консультироваться с группами пострадавших по их уравнениям.
“Отчасти это обусловлено тем, что люди сейчас более известны как Facebook работает и в какой мере наша жизнь определяется тем, использование и манипулирование данными,” шо сказал, имея в виду, что социальные медиа-компании используют алгоритмы, чтобы направлять пользователей к материалам. “Это очень важная часть здания общественного доверия к государственным институтам”.
Новозеландские ученые изобретают вулкан система предупреждения
Подробнее
Отделы помогут устава в комплекте схема Новая Зеландия компенсации аварии, которая была подвергнута критике в 2017 году для использования алгоритмов для обнаружения мошенничества среди его книг – и агентства исправительных учреждений, которые развернуты алгоритмы для определения риска пациента рецидива.
Но другие органы, которые были предметом громких дел, в которых критики осудили использование алгоритмов, в том числе иммиграционное агентство, нашли в марте для профилирования заявителей по алгоритму – и полиции, которые попали под обстрел из частной жизни выступает в 2019 году для внедрения технологии распознавания лица, не объявляя об этом, не было среди подписантов. Ни были спецслужбы страны.
Пресс-офис шоу сказал, что агентство не исключил устава и что другие, как ожидается, подпишет позже.
Стандарты не включать механизм принуждения. Шоу сказал, что надеется, что в течение месяца учреждений, которые подписали устав будет предоставлять информацию на своих сайтах, объясняя, как алгоритмы были использованы, даже поставляя исходный код – и что если они не могли требовать этого.
Колин Gavaghan, профессор права в Университете Отаго, был вовлечен в 2019 комментарий, что предложил независимого регулирующего органа для контроля за использованием алгоритмов учреждений – шаг правительство не в ее уставе. Он сказал, что есть “прекрасно” в новых стандартах, и он надеется, что они могут служить примером для других правительств.
“Как всегда, дьявол в деталях и, что означает реализацию”, — сказал он. “Мы все еще чувствую, что какой-то надзор и регулирующий орган, который должен иметь общегосударственный мандат кажется хорошей идеей.”
Новая Зеландия правительство развертывает ню порно актеров в интернете объявление безопасность
Подробнее
Gavaghan похвалил пункт в уставе, что необходимые органы для обжалования решения, сообщил алгоритмы, но добавил, что “люди не всегда знают,” они были предметом таких решений, даже в рамках новых стандартов.
Шоу сказал, что считает этот документ был впервые в мире – ни одно другое правительство подготовило стандартов, которые охватывали бы все алгоритмы, используемые каждый подписант агентства.
Свежие комментарии