Китайское приложение TikTok цензуру иностранцев с распознаванием лица
Комически оскорбленным родители, пьяные концерты фортепиано и вирусная теории заговора про детей спрятаны в шкафы: это довольно обычный вечер на TikTok, видео-обмена приложение пользуется более 500 млн человек по всему западному миру.
Вещи не кажутся столь разных по Douyin, китайская версия TikTok, где в прямом эфире бум чеканить новые миллионеры социальных медиа. За кулисами, однако, китайские стримеры подвержены выработке режима автоматизированного наблюдения и цензуры.
Одна система может использовать для распознавания для сканирования транслирует в прямом эфире стриме и угадать их возраст, сообщать о них для человека модератором, если они появляются в возрасте до 16.
Другой проверяет, смотрит на потребителей своих государственных идентификационных карт, прежде чем выпускать их поток, автоматически исключая иностранцев и людей из Гонконга.
Другая система присваивает растяжки, которые должен соблюдать «общественный порядок и добрые обычаи», а «рейтинг безопасности», похожие на «кредитный счет. Если оценка опускается ниже определенного уровня, они будут автоматически наказаны.
Между тем, распознавание речи и текста используется, чтобы выведать грехи, такие как «феодальное суеверие», шельмование КПРФ и даже АСМР, которая запрещена, потому что она стала слишком «порнографическими».
В среду, британский человек, называемый Иисус Думмер не вписывается в этот аппарат, когда его жена, китайская, пытался его в потоке из пекинской квартире. Каким-то образом – возможно, через распознавание лица – Douyin обнаружить его присутствие и убил в эфир, сказав, что иностранцы без правительства «разрешения» были запрещены.
Жена пытается потоковым на Douyin. Приходит ко мне в середине потока и ставит меня на камеру. Примерно через минуту, уведомление всплывает заявив, что иностранцы не имеют права появляться на видео «без разрешения».
— Джошуа Думмер (@JoshuaDummer) 8 Июля, 2020
Все эти методы оголяется в малоизвестном документе, опубликованном TikTok и Douyin материнская компания, ByteDance, который объясняет, как приложения адаптированы жесткая цензура Китая в области права интернет-беспрецедентные скорость и хаос в прямом эфире.
Документ поднимает сложные вопросы для TikTok, который сталкивается с зондами конфиденциальности в США и Великобритании уже запретили в Индии, о том, как он применяет те же технологии для западных пользователей.
Это были вопросы, которые TikTok уклонился от ответа.
Иностранцам запретили вещание в Китае
Все Joshua Думмер пришлось сделать, чтобы гнев интернет-цензоров было сидеть на диване и говорить о его день.
Это было только до 11 вечера в среду вечером, когда его жена, китайская, сел рядом с ним и указал на камеру в его сторону.
«Она призвала меня, чтобы говорить, и я просто начал говорить в четыре или пять человек смотрел про скучные вещи, которые я сделал в тот день, в Мандарин с некоторым английским сыпали в», — Сказал Думмер рассказал Телеграфу. «Примерно через одну или две минуты, предупреждение выскочил.»
Предупреждение говорит, что иностранцам не разрешили прямую трансляцию на Douyin «без разрешения». Удивился, нажал на пару – но через несколько минут их трансляции была вырезана, и жена Мистера Думмер был временно заблокирован из потокового.
Предупреждение показано Джошуа Думмер, с выявлением деталей вырезаны
Кредит: Джошуа Думмер
Владимир Думмер не привыкать к цензуре, который является универсальным фактом жизни для 850м или так интернет-пользователи, которые просматривают китайского материка доморощенных приложений из-за своего знаменитого «Великого брандмауэра».
Так что ему было не наплевать на обручи, его жене пришлось прыгать через, чтобы начать потоковое, которые внесли на свою карточку (не доступна для иностранных граждан) и ее фотография мигающие лица.
«Все китайские приложения, веб-сайты и СМИ должны соблюдать правила страны о том, какой контент является приемлемым, в зависимости от среднего до среднего», — сказал Думмер сказал.
Но он пошел дальше: «это первый раз, что то я иностранец был использован в качестве причины для предотвращения меня от использования платформы, или требующие выполнения дополнительных процедур регистрации».
Что не удивительно. Министерство культуры Китая официально запретило иностранцам в прямом эфире без разрешения правительства в 2017 году, но правила, кажется, не применявшаяся до недавнего времени.
В этом году – возможно, ускорен блокировки синдрома, которые наддувом потокового культуры Китая стали поступать сообщения, что иностранцы, имеющие свои потоки неожиданно отменен.
Douyin якобы также приостановила пользователи, которые пытались трансляция на кантонском диалекте, филиал китайского языка, который доминирует в Гонконге, но КПРФ часто стремилась к боковой линии.
‘Комплексная система мониторинга’
В четверг, представительница ByteDance подтвердил Телеграфу, что это было подвергнуто цензуре Мистер Думмер, говоря: «как все в прямом эфире модерации на Douyin ведет человека модераторы в реальном времени, мы можем подтвердить, что действие в данном случае было совершено человеком».
Но это не вся история. Согласно «Белой книге» От себя ByteDance, говорит, человека модератор почти наверняка предупредили одним из сложных автоматизированных часовых Douyin по.
Документ, впервые появился на нью-йоркский журналист видео Изя Лю, был опубликован в 2019 году, но не была ранее сообщал на английском языке. Это ответ ByteDance на огромный рост потокового в Китае, который привлек сотни миллионов зрителей и сделали много «якорей» – китайский термин для растяжки и телевизионных новостей – в звезды.
Я хочу подвести итог этой теме, добавив, что в докладе аудитория не nevessarily платформы пользователей, а регуляторы—правительственная связь проекта, чтобы показать, что ByteDance готов и способен регулировать себя так строго, если не более строго, чем законы задать его. 10/
— 穆戈 Изя (@Izzy_Niu) 8 июля, 2020
«Но в то время как в прямом эфире отрасль находится на подъеме, возникают различные проблемы», — говорится в документе, который охватывает Toutiao ByteDance по («заголовки») приложение «новости» и два видео-приложения, а также Douyin.
«Много контента, который нарушает законы, правила, общественный порядок и добрые обычаи появился на большое количество движущимся платформам и вызвало негативные социальные последствия…
«В целях предотвращения рисков, связанных со всеми аспектами в прямом эфире, [ByteDance приложения] установили полного контроля технологического процесса.»
Он идет дальше, чтобы похвастаться: «нет-тупик, полный охват наблюдение», с использованием искусственного интеллекта (AI), чтобы анализировать каждую деталь каждого потока, включая поведение зрителей). Подозрительные потоки попадает в человека модераторы, которые могут ограничить их распространение или остановить их.
Схема движущимся в режиме реального времени система ByteDance по модерации
Кредит: ByteDance
Некоторые из этих методов являются общими на Западе тоже. Как использовать Facebook и YouTube AI в полиции свои услуги, и значительно расширили свою цензуру во время пандемии, как они расправляются с лечит обман и коронавирус дезу. Их критики могут сказать, что они столь же мрачное, как ByteDance в принципе.
Facebook, например, постоянно смотрит контент пользователями признаков того, что они продают наркотики, распространяют фейковые новости, хваля запрещенных групп ненависти или выражающих искреннюю суицидальных намерений. Он должен был сделать свои гарантии западные правительства после Крайстчерч теракт в 2019 году, которая транслировалась по его нарушителем.
Многие из правил компании также одинаковы. Оба Facebook и ByteDance хмурый взгляд на порнографию, изображения обнаженного тела, непристойного содержания, преследования, мошенничество, нарушение авторских прав и несовершеннолетних, которые притворяются взрослыми, чем они есть.
Однако другие правила, совсем иные.
эта схема процесса внутреннего обзора содержимого bytedance является информативным из высокого уровня пов. сделал быстрый перевод по моей реф и добавлены примечания, где я нашел язык смутное / критериям непонятно https://t.co/U7S153EFpC pic.twitter.com/vJ6NyRbbDM
— Лотос (@lotus_ruan) 9 июля, 2020
Ни короткие юбки, ни АСМР и нет западной пропаганды
ByteDance запрещает любую прямую трансляцию «антипартийные и антиправительственные» настроения. «Феодальное суеверие» — это, безусловно табу, как «курить и пить», «деньги поклонения» и «оскорбление женщин».
Более странно, компания нашла повод дай много интересных тенденций. АСМР видео – шепотом монологи, предназначенные для стимуляции мозга с фантомным ощущениям – нет, так как их якоря иногда «притягивают намерение аудитории посредством сильные сексуальные сигналы», такие как «ухо лизать».
Увлечение слизь любимых британских детей тоже запретили, потому что слизь содержит потенциально токсичных буры. ByteDance даже приводит случай в Манчестере в 2017 году, когда на YouTube-одержим британский ребенок получил серьезные химические ожоги после «единорога»или » слизи».
Конкурентный пожиратели знаменитости известные в Китае как «великие короли желудка» клеймо плохой пример для общества. «Некоторые якоря уже страдают ожирением, но они по-прежнему идти в остро», белую бумагу нюхает, хотя он действительно признает, что их аппетит «ошеломляющие».
И, конечно, есть подробные правила о том, сколько одежда Женские якоря могут носить. Дресс-код для Douyin не в отличие от обреченных потокового видео игры Майкрософт смеситель-сайт, который был атакован своим ханжеством. Но версия ByteDance еще строже, и приходит с полезным схеме.
Код ByteDance платье для женщин
Кредит: ByteDance
Что касается господина Думмер, непонятно, что система попадает в него. Американский журналист в Китае, которые протестировали приложение нашли мало доказательств того, что Douyin был этнически профилировки лица стримеров.
Одна из альтернатив заключается в том, что он просто проверяет грани стримеров против своих идентификационных карт, вымерзанием иностранцев по умолчанию; другая возможность распознавания речи ИИ, который бы отнесся к окропление Мистер Думмер английского языка.
В любом случае, ByteDance утверждает, что ее система получает результаты. Между 2018 и 2019 годах, в прямом эфире нарушений сократилось на 58pc, с 93pc проблем поймал системой наблюдения, чтобы пользователи могли сообщить о них.
По сравнению с последнем докладе в порядке транспарентности, TikTok, которая включает в себя прямую видео и поставь ставку на ПК 98.2.
Пробовал это дважды в Китае. Каждый раз, когда Douyin счет, принадлежащий гражданину китайской потокового с иностранцем на экране в течение пяти минут или около того. В обоих случаях не было никаких предупреждений и никакой цензуры. Поэтому автоматизированная этнос-фильтрация не происходит или не работает хорошо https://t.co/j8TC1UyZdq
— Павел Mozur 孟建国 (@paulmozur) 10 июля 2020
Теперь вопросы нависать над самой TikTok
Что все это значит для TikTok? Приложение существует отдельно от Douyin в некотором роде, и работает в разных сетях. Тем не менее, оба приложения были разработаны в Китае и одни и те же основные функции, с Douyin часто рассматривается как полигон для идей, которые позже мигрируют в TikTok.
ByteDance все еще пытается вырвать два приложения отдельно, наняв бывшего исполнительного Диснея Кевин Майер в качестве главного исполнительного TikTok и, как сообщается о создании нового TikTok-только инженерный офис в США.
Это не остановило американских чиновников из предполагая, что китайское правительство имеет доступ ко всем персональным данным, которые он собирает. TikTok последовательно утверждал, что он никогда не давал сведения до китайского государства и не будет делать это в будущем.
Использовать Douyin по распознаванию лица и удостоверения полиции своих пользователей также выходит далеко за рамки большинства западных приложений. Несмотря на свою молодость-системы обнаружения были еще «испытания», когда на белой бумаге было написано, они, вероятно, были развернуты более широко с тех пор.
TikTok уже ведется расследование со стороны регулирующих органов США по обвинению в нарушении неприкосновенности частной жизни детей, и в настоящее время иск в штате Иллинойс четверо подростков, которые утверждают, что он собирал их лица сведения, не спрашивая их согласия.
TikTok бум чистый доход за коронавируса увеличилось на 159%
Не цензура, кажется, остались в Китае. Следственный журналисты раскопали внутренних документов, предполагающих, что TikTok рассказал его модератор протяжении 2019 для подавления видео пользователей с «ненормальной формы тела», «слишком много морщин» или «заболевания глаз».
Дело, как сообщается, было убедиться, что новые пользователи были всасывается в приложение на красивых людей, а не выключен, «безобразно» или «низкого качества» услуги.
Еще одно следствие установило, что TikTok проводит политику систематического подавления видео с участием людей с ограниченными возможностями (например, с «аутизм», «синдром Дауна» или «обезображивание лица»), якобы для того, чтобы остановить их от травли. Один из пользователей в Германии, который был назван «специальных пользователей», называли практику «дискриминационные» и «бесчеловечное».
Потом были политические ориентиры, которые, по сообщениям западной цензуре видео с упоминанием резни площади Тяньаньмэнь, тибетской независимости и антикоммунистические Фалуньгун религиозной секты.
TikTok заметила, что большинство из этих документов устарели и утратили силу. В некоторых случаях он утверждал, что нет никаких записей о них. Он описал политики и руководящих принципов по проблеме инвалидности как «тупой» или первые попытки для ограничения конфликтов на службе, которая позже сменилась более «тонкого» решения.
Так сколько цензуры и контроля Douyin переносится в TikTok? Не TikTok также использовать распознавание лица? Если да, то какими способами? Другими словами, как волновались должны быть западные пользователи?
Пресс-секретарь TikTok отказался ответить на эти конкретные вопросы, только сказал: «TikTok занимает безопасность наших молодых пользователей серьезно. У нас есть строгие правила в отношении пользователей до 16 лет, участвующих в прямом эфире.
«В дополнение к возрасту стробирования, мы также полагаемся на человека модераторы, которые оценивают факторы, которые однозначно указывают пользователи в возрасте до 16, таких как потребители информации в своих публичных BIOS, которая может опровергнуть то, что они предоставили при регистрации.
«TikTok никогда не предоставляла данных пользователя для китайского правительства, и мы, если попросят.»
Свежие комментарии