ICO заявляет, что дискриминация со стороны ИИ может привести к отказу в приеме на работу или неправомерному отказу в банковских кредитах или пособиях
Сотрудник по надзору за данными Великобритании должен выяснить, проявляют ли системы искусственного интеллекта расовую предвзятость при рассмотрении заявлений о приеме на работу.
Управление комиссара по информации заявило AI- вынуждаемая дискриминация может иметь «вредные последствия для жизни людей» и привести к отказу в приеме на работу или неправомерному отказу в банковской ссуде или пособии по социальному обеспечению.
Он расследует использование алгоритмов для просеивания заявлений о приеме на работу на фоне опасений, что они влияют на возможности трудоустройства для людей из этнических меньшинств.
«Мы изучим опасения по поводу использования алгоритмов для просеивания заявок на подбор персонала, что может негативно сказаться на возможностях трудоустройства людей из разных слоев общества», — говорится в сообщении ICO.
Расследование объявляется в рамках трехлетнего плана ICO под руководством нового уполномоченного Великобритании по информации Джона Эдвардса, который присоединился к ICO в январе после того, как возглавил новозеландский аналог.
Ожидается, что в своем выступлении в четверг Эдвардс скажет, что ICO будет «рассматривать влияние, которое использование ИИ может оказать на группы людей, которые не участвуют в тестировании этого программного обеспечения, такие как нейроразнообразные люди или люди. из этнических меньшинств».
Генеральный директор сайта вакансий ZipRecruiter сообщил Guardian, что в этом году по крайней мере три четверти всех резюме, поданных на работу в США, читаются алгоритмами. Опрос руководителей, занимающихся подбором персонала, проведенный исследовательской и консалтинговой фирмой Gartner в прошлом году, показал, что почти все они сообщили об использовании ИИ в рамках процесса найма и найма, например, для просеивания заявок до того, как их увидит человек.
В соответствии с Общим регламентом защиты данных Великобритании, соблюдением которого занимается ICO, люди имеют право на недискриминацию при обработке своих данных. В прошлом ICO предупреждала, что системы, управляемые ИИ, могут давать результаты, которые ставят в невыгодное положение определенные группы, если они не представлены точно или справедливо в наборе данных, на котором обучается и тестируется алгоритм. Закон Великобритании о равенстве от 2010 года также предлагает защиту от дискриминации, вызванной действиями человека или автоматизированной системы принятия решений.
Доктор Дэвид Лесли, директор по исследованиям в области этики и ответственных инноваций в Институте Алана Тьюринга, сказал: «Использование моделей искусственного интеллекта на основе данных в процессах найма поднимает множество сложных этических вопросов, которые требуют предусмотрительности и тщательной оценки со стороны как системные проектировщики и закупщики.
«По сути, прогностические модели, которые можно использовать для фильтрации заявлений о приеме на работу с помощью методов контролируемого машинного обучения, рискуют воспроизвести или даже увеличить модели дискриминации и структурного неравенства, которые могут быть встроены в наборы данных, используемые для их обучения». < /p>
В другом месте своего трехлетнего плана надзорный орган Великобритании рассмотрит вопрос о том, следует ли отдавать приоритет общественным интересам при рассмотрении жалоб на запросы о свободе информации. В ICO заявили, что изменения в процессе подачи жалоб для режима свободы информации, который предоставляет представителям общественности законное право запрашивать официальную информацию у государственных органов, необходимы из-за роста количества жалоб и меньшего количества ресурсов для их рассмотрения.
Эдвардс сказал, что действующая система рассмотрения жалоб на свободу информации — по причинам, включающим запоздалые ответы или неполное раскрытие информации — не работает, и она будет консультироваться по поводу нового режима. Количество жалоб за год до 30 апреля 2022 года достигло 6 361, что немного меньше, чем в предыдущем году, но сопоставимо с 5 433 жалобами в 2016–2017 годах.
«Я хочу выяснить, можем ли мы поднять некоторые дела или отозвать некоторые и сказать: это происходит быстро, потому что это в интересах общества», — сказал Эдвардс.
Эдвардс сказал, что организация рассчитывала избежать обвинений в предвзятости в том, что она расставила по приоритетам, опубликовав список критериев для просеивания жалоб.
Эдвардс сказал, что ICO рассмотрит возможность определения приоритетов подачи от журналистов и депутатов, хотя это также будет взвешивать систему «слепых заявителей», когда личность лица или организации, подавших заявку, была скрыта. Информация, находящаяся в распоряжении шотландских государственных органов, подпадает под действие специального уполномоченного страны и Закона о свободе информации.
«Должны ли мы проводить различие между тем, кто делает запрос… и тем, что журналист действует в от имени широкой общественности для освещения конкретной проблемы. Таким образом, они получают дополнительные очки. Член парламента, например, играет особую роль в обеспечении подотчетности исполнительной и государственной власти, поэтому, возможно, есть смысл придать этим [требованиям] дополнительный вес».
Свежие комментарии