Работники узнают о сделках с наркотиками, медицинских подробностях и людях, занимающихся сексом, — говорит информатор
Подрядчики Apple регулярно слышат конфиденциальную медицинскую информацию, информацию о сделках с наркотиками и записи секса пар в рамках своей работы по контролю качества или «оценке» голосового помощника Siri, как стало известно The Guardian.
Хотя Apple прямо не раскрывает это в своей документации по конфиденциальности для потребителей, небольшая часть записей Siri передается подрядчикам, работающим на компанию по всему миру. Им поручено оценивать ответы по множеству факторов, в том числе по тому, была ли активация голосового помощника преднамеренной или случайной, можно ли было ожидать, что запрос поможет Сири, и был ли ответ Сири уместным.
< p class="dcr-xry7m2">Apple заявляет, что данные «используются, чтобы помочь Siri и диктовке… лучше понять вас и распознать, что вы говорите».
Но компания это делает прямо не заявляют, что эта работа выполняется людьми, которые слушают псевдонимизированные записи.
Apple сообщила Guardian: «Небольшая часть запросов Siri анализируется для улучшения Siri и диктовки. Запросы пользователей не связаны с Apple ID пользователя. Ответы Siri анализируются в безопасных помещениях, и все рецензенты обязаны соблюдать строгие требования Apple в отношении конфиденциальности». Компания добавила, что для оценки используется очень небольшое случайное подмножество, менее 1% ежедневных активаций Siri, и обычно они длятся всего несколько секунд.
Информатор, работающий в фирме, пожелавший остаться неизвестным из-за опасений по поводу своей работы, выразил обеспокоенность по поводу отсутствия раскрытия информации, особенно учитывая частоту, с которой случайные активации собирают чрезвычайно конфиденциальную личную информацию.
Siri может быть активирована случайно, когда она по ошибке слышит свое «слово пробуждения», фразу «привет, Siri». Эти ошибки можно понять — интервью Би-би-си о Сирии было прервано ассистентом в прошлом году — или даже меньше. «Звук молнии Siri часто слышит как спусковой крючок», — сказал подрядчик. Услугу также можно активировать другими способами. Например, если Apple Watch обнаруживают, что их подняли, а затем слышат речь, Siri автоматически активируется.
Информатор сказал: «Было бесчисленное количество записей, показывающих частные беседы между врачами и пациентами, деловые сделки, кажущиеся преступными сделки, сексуальные контакты и так далее. Эти записи сопровождаются данными пользователя, показывающими местоположение, контактные данные и данные приложения».
Эта сопроводительная информация может использоваться для проверки того, был ли успешно обработан запрос. В своих документах о конфиденциальности Apple заявляет, что данные Siri «не связаны с другими данными, которые Apple может получить в результате использования вами других сервисов Apple». К записи не прикрепляется конкретное имя или идентификатор, и никакая отдельная запись не может быть легко связана с другими записями.
Случайные активации привели к получению наиболее конфиденциальных данных, которые были отправлены в Apple. Хотя Siri включена в большинство устройств Apple, подрядчик выделил Apple Watch и интеллектуальную колонку HomePod компании как наиболее частые источники ошибочных записей. «Регулярность случайных срабатываний часов невероятно высока», — сказали они. «Часы могут записывать фрагменты продолжительностью 30 секунд — не так уж долго, но вы можете получить представление о том, что происходит».
Иногда «точно можно услышать врача и пациента, рассказывающих об истории болезни пациента. Или кого-то слышно, может быть, на фоне автомобильного мотора — точно не скажешь, но это наркосделка… точно слышно, как это происходит. И вы бы слышали, как люди занимаются сексом, который случайно записали на камеру или часы».
Подрядчик сказал, что сотрудникам было предложено сообщать о случайных активациях «но только как о технической проблеме», без каких-либо конкретных процедур для работы с конфиденциальными записями. «Мы призываем достигать целей и выполнять работу как можно быстрее. Единственная функция для сообщения о том, что вы слушаете, похоже, предназначена для решения технических проблем. Ничего не сообщается о содержании».
Помимо дискомфорта, который они чувствовали, слушая такую личную информацию, подрядчик сказал, что они были мотивированы обнародовать свою работу из-за опасений, что такая информация может быть использована не по назначению. «Проверки тех, кто там работает, не так много, и объем данных, которые мы можем свободно просматривать, кажется довольно широким. Определить человека, которого вы слушаете, не составит труда, особенно по случайным триггерам — адресам, именам и так далее.
«Apple заключает субподряд, текучка большая. Не то чтобы людей поощряли заботиться о частной жизни людей или даже думать об этом. Если бы был кто-то с гнусными намерениями, было бы нетрудно идентифицировать [людей на записях]».
Подрядчик утверждал, что Apple должна сообщить пользователям, что существует человеческий недосмотр. — и, в частности, прекратить публиковать некоторые из своих шутливых ответов на запросы Siri. Например, спросите личного помощника «ты всегда слушаешь», и он ответит: «Я слушаю только тогда, когда ты говоришь со мной».
Это очевидно. ложно, сказал подрядчик. Они утверждали, что случайные триггеры слишком регулярны для такой беззаботной реакции.
Apple не единственная компания, которая использует человеческий контроль над своими автоматическими голосовыми помощниками. В апреле выяснилось, что Amazon нанимает сотрудников для прослушивания некоторых записей Alexa, а ранее в этом месяце сотрудники Google делали то же самое с Google Assistant.
Apple отличается от этих компаний в некотором роде, однако. Во-первых, Amazon и Google позволяют пользователям отказаться от некоторых видов использования их записей; Apple не предлагает аналогичного выбора, кроме полного отключения Siri. По данным Counterpoint Research, Apple принадлежит 35% рынка смарт-часов, что более чем в три раза превышает долю ближайшего конкурента Samsung и больше, чем шесть следующих крупнейших конкурентов вместе взятых.
Ценности компании его репутация в отношении конфиденциальности пользователей очень высока, что регулярно использует его как конкурентное преимущество перед Google и Amazon. В январе на выставке Consumer Electronics Show в Лас-Вегасе компания купила рекламный щит, на котором говорилось, что «то, что происходит на вашем iPhone, остается на вашем iPhone».
Свежие комментарии