Марк Цукерберг борется с утверждениями, что в сети есть слепое пятно сексизма
Facebook был обвинен в нарушении законов о равенстве после того, как было обнаружено, что его технология благоприятствует мужчинам при нацеливании объявлений о вакансиях на роли, в которых доминируют мужчины, такие как механики и пилоты.
Группа кампании Global Witness подала жалобу в Комиссию по вопросам равенства и прав человека (EHRC) и Комиссара по информации, утверждая, что алгоритм Facebook, предназначенный для показа вакансий наиболее заинтересованным кандидатам, является дискриминационным.
В одном случае 96% из тех, кто просмотрел рекламу механика, были мужчинами, в то время как 95% из тех, кто видел объявления о работе детской медсестры, были женщинами. Объявления о пилотных вакансиях непропорционально чаще видели мужчины, а объявления психологов гораздо чаще видели женщины.
Facebook заявил, что готовится обновить свою систему объявлений о вакансиях в течение нескольких недель. Global Witness утверждает, что компания могла нарушить законы, запрещающие дискриминацию женщин на рабочем месте.
В тестах Global Witness рекламодатель не указал, что объявления о вакансиях должны быть адресованы определенному полу. Вместо этого таргетинг был результатом алгоритма Facebook, который направлен на размещение рекламы в каналах пользователей, которые могут быть наиболее восприимчивыми.
Global Witness также сообщила, что смогла публиковать объявления, которые преднамеренно дискриминируют женщин и людей старше 55 лет.
В одном примере 96% из тех, кто просматривал рекламу механика в Facebook, были мужчинами. Фото: Alamy.
Facebook, у которого более 40 миллионов пользователей в Великобритании, заявил, что изучает выводы группы. Компания добавила, что рассматривает ограничения, которые не позволят работодателям намеренно проводить дискриминацию в объявлениях о вакансиях, которые в настоящее время применяются только в Северной Америке.
В нем говорится: «Наша система принимает во внимание различные виды информации, чтобы попытаться показать людям рекламу, которая будет им наиболее интересна, и мы рассматриваем результаты в этом отчете.
«Мы изучаем возможность расширения ограничений на параметры таргетинга для объявлений о вакансиях, жилье и кредитах на другие регионы за пределами США и Канады и планируем получить новую информацию в ближайшие недели».
EHRC может потребовать, чтобы компания изменила свою практику, если будет установлено, что она нарушила Закон о равенстве, и потенциально может подать на нее в суд для обеспечения исполнения приказа.
Участники кампании также утверждают, что Facebook может нарушить законы о защите данных, которые требуют, чтобы обработка личной информации не приводила к дискриминационным результатам.
Исследования в США ранее утверждали, что алгоритмы объявления о работе Facebook могут быть дискриминационными, хотя власти Великобритании впервые были предупреждены об этой проблеме.
Крупные технологические компании неоднократно подвергались критике за разработку алгоритмов, дискриминирующих женщин или представителей меньшинств, и эта проблема, по мнению критиков, частично является результатом того, что в рабочей силе преобладают мужчины.
Почему искусственный интеллект Facebook создал рабочие места для мальчиков
По словам Джеймса Титкомба, социальная сеть снова борется с обвинениями в сексизме после того, как ее алгоритмы распределили рекламу для разных полов.
Раньше у Facebook была бурная репутация. Фото: AP
Это вечно неудобный самородок пустяков о Facebook, который начинался как веб-сайт для оценки привлекательности студенток Гарварда.
«Facemash» просуществовал недолго, но его место в истории компании Марка Цукерберга осталось, преследуя то, что сейчас является самой большой социальной сетью в мире, всякий раз, когда ее критикуют за предвзятость.
Первые годы Facebook после его основания в 2004 году изобилуют рассказами, которые сегодня заставили бы его руководителей ерзать. Стены его офисов были украшены фресками сексуального характера, а жалобы на домогательства со стороны первых сотрудников компании, как сообщается, были отклонены как шутливое подшучивание.
С тех пор Facebook превратился в гиганта с капиталом в 1,1 триллиона долларов (800 миллиардов фунтов стерлингов) с 63000 сотрудников. Расширяясь, он попытался избавиться от репутации братства, сопровождавшей его первые дни, и заменить его имиджем либеральной технологической фирмы. Во-первых, больше нет непристойных фресок.
Несмотря на усилия, компания боролась с рядом обвинений в пропаганде сексизма. Участники кампании говорят, что, как и большая часть Кремниевой долины, в Facebook работают преимущественно мужчины, которые ежедневно используют 2,8 миллиарда человек по всему миру.
Приложения, усиливающие сексистское поведение
Сегодня Facebook столкнулся с обвинениями в нарушении Закона о равенстве, который защищает от дискриминации на рабочем месте, после того, как группа Global Witness заявила, что некоторые объявления о вакансиях, размещенные на сайте, в подавляющем большинстве просматривали либо мужчины, либо женщины.
Системы компании, которые «оптимизируют показ рекламы», непропорционально отображают рекламу механиков, медсестер и пилотов одного пола. Facebook, возможно, не указал целевую аудиторию, но 96% рекламных объявлений о механике были просмотрены мужчинами и 75% рекламных объявлений. При этом 95% из тех, кто смотрел рекламу детских медсестер, составили женщины, а 77% — психологи.
Лондонская компания Global Witness заявила, что представила свои выводы Комиссии по вопросам равенства и прав человека Великобритании в соответствии с Законом о равенстве и уполномоченному по информации в соответствии с законами о защите данных, которые требуют от компаний обеспечения того, чтобы использование личной информации не приводило к дискриминационным результатам.
Представитель Facebook сказал, что он изучает результаты.
Алгоритм Facebook показывал рекламу детских медсестер почти исключительно женщинам Фото: Джефф Пью
Однако это далеко не первый случай, когда Facebook сталкивается с обвинениями в том, что его приложения усиливают сексистское поведение. В 2019 году один исследователь обнаружил, что ввод «фотографии моих подруг» в строку поиска сайта дает именно это. Напротив, поиск «фотографии моих друзей-мужчин» предлагал пользователям искать женщин.
Технология не нейтральна
Критики говорят, что в алгоритмах Facebook фигурируют не только гендерные вопросы. На прошлой неделе выяснилось, что система видеорекламы компании спрашивала пользователей, хотели бы они видеть больше контента о «приматах» после того, как на странице газеты было опубликовано видео с участием темнокожего мужчины. Facebook извинился и заблокировал эту функцию.
Технологические компании стремятся разрабатывать все более изощренные алгоритмы искусственного интеллекта, которые «учатся» поведению, а не следуют набору правил. Из-за этого становится все труднее разобраться в неверных или оскорбительных результатах.
Можно начать с найма рабочей силы, которая лучше отражает пользователей.
«Технологии не нейтральны. Он формируется людьми, которые создают технологии, формируется их выбором и их ценностями », — говорит Эрин Янг, научный сотрудник Института Алана Тьюринга. «Появляется все больше свидетельств того, что недопредставленность женщин на должностях ИИ в технологических компаниях приводит к возникновению петель обратной связи. Системы ИИ не объективны. Итак, когда возникает предвзятость, предвзятость проявляется «.
Facebook взял на себя смелые обязательства сделать это: в 2019 году он объявил о планах удвоить количество сотрудников-женщин во всем мире за пять лет. В нем также есть одна из самых известных женщин-руководителей в мире на посту главного операционного директора Шерил Сандберг, которая выступала за то, чтобы больше женщин занимали руководящие должности.
Однако последние данные свидетельствуют о том, что на самом деле он идет вспять. В июле Facebook сообщил, что женщины составляют 36,7% глобальной рабочей силы, что меньше 37% годом ранее. Это число увеличилось с 31% в 2014 году, когда Facebook впервые обнародовал цифры.
«Крупные технические работники — это в основном молодые ботаники с небольшим жизненным опытом», — сказал Ноэль Шарки, заслуженный профессор искусственного интеллекта и робототехники в Университете Шеффилда. «Многие ошибки в суждениях можно было бы избежать с помощью более разнообразного технического сообщества».
Требуется большее представительство
Внутренние данные предполагают, что женщины-инженеры с большей вероятностью будут отклонять код коллегами, согласно анализу сотрудника, опубликованному Wall Street Journal в 2017 году. Facebook заявил, что анализ был неточным, но при этом признал необходимость увеличения числа женщин на руководящих должностях. .
Однако это не единственная крупная технологическая компания, которую обвиняют в предвзятости алгоритмов или в нехватке женщин-инженеров. По данным Института Алана Тьюринга, только 22% специалистов по ИИ и данным в Великобритании — женщины.
Специалисты по этике ИИ также работают над тестами на прозрачность, которые, по мнению экспертов, могут помочь в работе алгоритмов устранения предвзятости.
Более простое решение может заключаться в том, чтобы иметь персонал, который лучше представляет своих пользователей.
Свежие комментарии