Тема для обсуждения в информационном бюллетене на этой неделе: спустя годы после закрытия столь же спорной схемы LAPD хочет использовать технологии для профилирования потенциальных преступников
- Не доставляйте TechScape на ваш входящие? Зарегистрируйтесь здесь
Член полиции Лос-Анджелеса садится в свою патрульную машину, припаркованную перед штаб-квартирой полиции Лос-Анджелеса на 1-й улице в центре Лос-Анджелеса. Фотография: Мел Мелкон/Los Angeles Times/REX/Shutterstock Член полиции Лос-Анджелеса садится в свою патрульную машину, припаркованную перед штаб-квартирой полиции Лос-Анджелеса на 1-й улице в центре Лос-Анджелеса. Фотография: Mel Melcon/Los Angeles Times/REX/Shutterstock >
В 2011 году полицейское управление Лос-Анджелеса внедрило новый подход к охране правопорядка под названием Operation Laser. Laser — что расшифровывалось как «Стратегическое извлечение и восстановление в Лос-Анджелесе» — была первой прогностической программой такого рода в США, позволяющей полиции Лос-Анджелеса использовать исторические данные для прогнозирования с лазерной точностью (отсюда и название), где могут быть совершены будущие преступления и кто могут совершить их.
Подпишитесь на нашу еженедельную информационную рассылку TechScape.
Но это было почти точно. Программа использовала исторические данные о преступности, такие как аресты, вызовы в службу, карточки полевых интервью, которые полиция заполняла идентифицирующей информацией каждый раз, когда они останавливали кого-то, независимо от причины, и многое другое, чтобы обозначить «проблемные области», на которых офицеры могли бы сосредоточить свои усилия. или присвоить отдельным лицам оценки криминального риска. Информация, собранная в ходе этих полицейских усилий, была введена в компьютерное программное обеспечение, которое в дальнейшем помогло автоматизировать усилия департамента по прогнозированию преступности. Картина преступности, которую представляло программное обеспечение, утверждают группы активистов, такие как Коалиция шпионажа полиции Лос-Анджелеса, просто подтвердила существующие схемы и решения полиции, по своей сути криминализируя места и людей на основе спорной гипотезы (то есть, если преступления однажды произошли, они будут повторяться снова. ). Данные, которые полиция Лос-Анджелеса использовала для предсказания будущего, изобиловала предвзятостью, что приводило к чрезмерному контролю и непропорциональному нацеливанию на сообщества чернокожих и коричневых — зачастую те же самые, на которые они нацеливались годами, утверждают эксперты.
Примерно через пять лет после начала программы LAPD сосредоточился на перекрестке в южном районе Лос-Анджелеса, где, как известно, часто бывал покойный рэпер Нипси Хассл, как показали документы, которые мой коллега Сэм Левин и я просмотрели и впервые сообщили в ноябре. Это был перекресток, на котором он вырос, а позже открыл флагманский магазин одежды как ода своему району и средство для экономического развития общества. Там в поисках подозреваемого в ограблении, описанного только как чернокожий мужчина в возрасте от 16 до 18 лет, полиция Лос-Анджелеса остановила 161 человека в течение двух недель. Нипси Хассл жаловалась на постоянные преследования со стороны полиции и до этого, заявив еще в 2013 году, что сотрудники полиции Лос-Анджелеса «выходят, задают вам вопросы, берут ваше имя, адрес, номер мобильного телефона, ваши социальные сети, когда вас нет. ничего не сделал. Просто чтобы они знали всех в капюшоне ». В интервью Сэму Левину брат Нипси Самиэль Асхедом сказал, что никто не может пойти в магазин, пока его не остановит полиция. Братья и совладельцы магазина одежды Marathon Clothing даже подумали о его переезде, чтобы избежать преследований.
В конечном итоге полиция Лос-Анджелеса была вынуждена закрыть программу, признав, что данные сделали не нарисовать полную картину.
Перенесемся вперед почти на 10 лет спустя: LAPD работает с компанией Voyager Analytics на пробной основе. Документы, которые Guardian рассмотрели и написали в ноябре, показывают, что Voyager Analytics заявила, что может использовать ИИ для анализа профилей в социальных сетях для обнаружения новых угроз на основе друзей, групп, публикаций и т. Д. Человека. По сути, это была операция «Лазер» для цифрового мира. Вместо того, чтобы сосредотачиваться на физических местах или людях, Voyager смотрел на цифровые миры людей, представляющих интерес, чтобы определить, были ли они причастны к преступным группам или планировали совершить будущие преступления, основываясь на том, с кем они взаимодействовали, на том, что они публиковали, и даже на их друзья друзей. «Это система« вины по ассоциации », — сказала Мередит Бруссард, профессор журналистики данных Нью-Йоркского университета.
» Вояджер «утверждает, что вся эта информация об отдельных лицах, группах и страницах позволяет его программное обеспечение для проведения «анализа настроений» в реальном времени и поиска новых зацепок при исследовании «идеологической солидарности». «Мы не просто соединяем существующие точки», — говорится в рекламном документе «Вояджера». «Мы создаем новые точки. То, что кажется случайным и несущественным взаимодействием, поведением или интересами, внезапно становится ясным и понятным ».
Но такие системы, как Voyager Labs и Operation Laser, хороши ровно настолько, насколько хороши данные, на которых они основаны, а предвзятые данные дают необъективные результаты.
В тематическом исследовании, показывающем, как программное обеспечение Voyager можно использовать для выявления людей, которые «наиболее полно идентифицируют себя с позицией или любой заданной темой», компания рассмотрела способы анализа присутствия в социальных сетях Адама Альсахли, убитого последним. год при попытке атаковать военно-морскую базу Корпус-Кристи в Техасе. «Вояджер» сказал, что программа показала, что профиль Альсахли демонстрирует высокую склонность к фундаментализму. Доказательства, на которые они указали, включали то, что 29 из 31 публикации Альсахли в Facebook были фотографиями на исламские темы и что одна из учетных записей Альсахли в Instagram, которая была отредактирована в документах, отражала «его гордость за свое арабское происхождение и отождествление с ним». Компания также указала, что из аккаунтов, за которыми он следил в Instagram, «большинство из них на арабском языке» и «в целом кажется» аккаунтами, публикующими религиозный контент. В своем аккаунте в Twitter Вояджер написал, что Альсали в основном писал в Твиттере об исламе.
Хотя тематическое исследование было отредактировано, многие аспекты того, что «Вояджер» считал сигналами фундаментализма, также можно квалифицировать как бесплатные речь или другая защищенная деятельность. Тематическое исследование, по крайней мере те части, которые мы могли видеть, похоже на профили в социальных сетях вашего среднего мусульманского отца.
Хотя приложение может показаться разным, эти два случая демонстрируют постоянное желание правоохранительных органов улучшить свою полицейскую деятельность, а также ограничения, а в некоторых случаях и предвзятость, глубоко укоренившиеся в данных, используемых в системах. Некоторые активисты говорят, что полиция использует системы, предполагающие использование искусственного интеллекта и других передовых технологий, чтобы делать то, на что она на самом деле не способна, то есть анализировать поведение людей для прогнозирования будущих преступлений. При этом они часто создают замкнутую петлю обратной связи.
Основное отличие состоит в том, что теперь целый сектор технологий требует от правоохранительных органов более совершенных систем. И технологические компании, которые создают программы открытого наблюдения или контроля, а также компании потребительских технологий, с которыми обычный человек взаимодействует ежедневно, например, Amazon, отвечают на звонок. Amazon, со своей стороны, специально работал с LAPD, чтобы предоставить своим сотрудникам доступ к своей сети кольцевых камер. Для полиции мотивация такого партнерства очевидна, поскольку такие технологии позволяют доверять их полицейским решениям и потенциально упрощают или повышают эффективность их работы. Для технологических компаний мотивация состоит в том, чтобы использовать потоки доходов с потенциалом роста. Прибыльному государственному контракту с кажущимся бесконечным финансированием трудно сопротивляться, тем более что многие другие возможности для роста начали иссякать. Вот почему внутренняя оппозиция сотрудников не остановила такие компании, как Google, которая продолжает добиваться военных контрактов, несмотря на годы раздоров между сотрудниками.
Из New York Times: «В 2018 году , тысячи сотрудников Google подписали письмо, в котором протестовали против участия компании в Project Maven, военной программе, которая использует искусственный интеллект для интерпретации видеоизображений и может использоваться для уточнения прицеливания ударов дронов. Руководство Google уступило и согласилось не продлевать контракт по истечении срока его действия.
Этот протест привел к тому, что Google разработал руководящие принципы этичного использования искусственного интеллекта, запрещающие использование его технологий для оружия или наблюдения, и ускорил встряску в его бизнесе облачных вычислений. Теперь, когда Google позиционирует облачные вычисления как ключевую часть своего будущего, заявка на новый контракт с Пентагоном может проверить границы этих принципов ИИ, которые отличают его от других технологических гигантов, которые обычно ищут военную и разведывательную работу ».
Куда может пойти такая компания, как Google, которая расширила свой бизнес так, что ее щупальца присутствуют, вероятно, во всех отраслях, чтобы продолжать развивать свой бизнес? Прямо сейчас ответ, похоже, работает с правительством.
Читатели, я хотел бы услышать, что вы думаете о технических компаниях, работающих с правоохранительными органами, чтобы вооружить их прогнозирующая полицейская охрана или другая технология наблюдения.
Если вы хотите читать полную версию информационного бюллетеня, подпишитесь, чтобы получать TechScape в своем почтовом ящике каждую среду.
Свежие комментарии