Facebook для расследования утверждает, что ее алгоритмы являются дискриминационными

Facebook начинает расследование, является ли его алгоритмов дискриминации в отношении этнических меньшинств, после внутренних протестов заставил компанию пересмотреть возможности своей системы машинного обучения мог поднять на реальных уклоном.

Новый компании “справедливость и интеграция” команды будет поставлена задача оценки алгоритмов, которые регулируют Instagram и Facebook и убедившись, что они не направлены против черных, испаноязычных и других этнических меньшинств. Facebook сказал, что основное внимание будет уделено “обеспечение справедливости и справедливого развития продукта присутствуют во всем, что мы делаем”.

Вишал Шах, вице-президент продукта для Instagram, говорится в заявлении: “движение расовой справедливости-это момент реальное значение для нашей компании. Любой перекос в наш системам и политике противоречит предоставляя платформу для всех, чтобы выразить себя. В то время как мы постоянно работаем, чтобы создать более справедливый опыт, мы создаем дополнительные усилия, чтобы продолжить этот прогресс, от создания команды Instagram акций включительно совета по продукции Facebook”.

Цифровая антиутопия: как алгоритмы наказать бедных

Подробнее

Алгоритмические дискриминации уже давно вызывает озабоченность контролеров гражданских свобод. Например, рекламная система, которая узнает, кому показывать рекламу может случайно воссоздать расовые предрассудки, если речь заходит, чтобы связать ту или иную расу с низкими доходами.

В 2016 году, активист и предприниматель Мачей Cegłowski сказал: “машинное обучение-это похоже на отмывание денег за предвзятость. Это чистый, математического аппарата, что обеспечивает статус-кво аура логической неизбежностью. Цифры не лгут”.

Цель новой команды Facebook заключается в том, чтобы активно искать такие предвзятые подходы и усилия, чтобы обеспечить конечный продукт лечит пользователи всех рас достаточно.

“Как мы делали это в течение некоторого времени, мы будем продолжать тесно сотрудничать с ответственной командой Facebook ИИ чтобы гарантировать, что мы смотрим на возможные предубеждения на наших соответствующих платформ. Еще рано, и мы планируем поделиться более подробно об этой работе в ближайшие месяцы”, — сказано инициативы.

По данным «Уолл Стрит Джорнал», который первым сообщил о существовании группы акций, ранее компания запретила подобные исследования без разрешения его руководства.

В документе сообщается, что внутреннего анализа было установлено, что черный пользователи были 50% более вероятно, чем другие пользователи, чтобы их Instagram аккаунтов отключена, но дальнейшие исследования были запрещены администрацией Instagram.