Программное обеспечение для обнаружения эмоций на основе искусственного интеллекта протестировано на уйгурах

Как сообщили BBC, система камеры, использующая искусственный интеллект и распознавание лиц, предназначенная для выявления эмоциональных состояний, была протестирована на уйгурах в Синьцзяне.

A gate of what is officially known as a "vocational skills education centre" in Xinjiang

Инженер-программист утверждал, что установил такие системы в полицейских участках провинции.

Правозащитник, которому показали доказательства, назвал их шокирующими.

Посольство Китая в Лондоне не ответило напрямую на претензии, но заявляет, что политические и социальные права всех этнических групп гарантированы.

Синьцзян является домом для 12 миллионов уйгуров, принадлежащих к этническим меньшинствам, большинство из которых являются мусульманами.

Жители провинции находятся под ежедневным наблюдением. В этом районе также находятся весьма неоднозначные «центры перевоспитания», которые правозащитные группы называют лагерями строгого режима, где, по оценкам, содержится более миллиона человек.

Пекин всегда утверждал, что наблюдение необходимо в регионе, потому что, по его словам, сепаратисты, которые хотят создать собственное государство, убили сотни людей в результате террористических атак.

Xinjiang is believed to be one of the most surveilled areas in the world
Синьцзян считается одним из самых контролируемых районов в мире.

Инженер-программист согласился поговорить с программой BBC Panorama на условиях анонимности, поскольку опасается за свою безопасность. Компания, в которой он работал, также не разглашается.

Но он показал «Панораме» пять фотографий заключенных-уйгуров, на которых, как он утверждал, была протестирована система распознавания эмоций.

Данные из системы предназначены для обозначения душевного состояния человека, а красный цвет указывает на негативное или тревожное состояние.
Данные из системы предназначены для обозначения душевного состояния человека, а красный цвет указывает на негативное или тревожное состояние.

«Китайское правительство использует уйгуров в качестве подопытных для различных экспериментов, точно так же, как крысы используются в лабораториях», – сказал он.

И он обрисовал свою роль в установке камер в полицейских участках провинции: «Мы разместили камеру обнаружения эмоций на расстоянии 3 м от объекта. Она похожа на детектор лжи, но с гораздо более продвинутой технологией».

Он сказал, что офицеры использовали «удерживающие стулья», которые широко устанавливаются в полицейских участках по всему Китаю.

«Ваши запястья зафиксированы металлическими ограничителями, и то же самое относится к вашим лодыжкам».

Он представил доказательства того, как система ИИ обучена обнаруживать и анализировать даже мельчайшие изменения в выражении лица и порах кожи.

По его словам, программа создает круговую диаграмму, в которой красный сегмент представляет собой негативное или тревожное состояние души.

Он утверждал, что программное обеспечение предназначалось для «предварительного судебного решения без каких-либо достоверных доказательств».

Посольство Китая в Лондоне не ответило на вопросы об использовании программного обеспечения для распознавания эмоций в провинции, но заявило: «Политические, экономические и социальные права и свобода вероисповедания для всех этнических групп в Синьцзяне полностью гарантированы.

«Люди живут в гармонии, независимо от своего этнического происхождения, и живут стабильной и мирной жизнью без ограничения личной свободы».

Доказательства были предъявлены Софи Ричардсон, китайскому директору Human Rights Watch.

“Это шокирующий материал. Дело не только в том, что людей сводят к круговой диаграмме, это люди, которые находятся в крайне принудительных обстоятельствах, под огромным давлением, которые по понятным причинам нервничают, и это воспринимается как признак вины, и я думаю, что это глубоко проблематично “.

Подозрительное поведение

По словам Даррена Байлера из Университета Колорадо, уйгуры обычно должны предоставлять образцы ДНК местным властям, проходить цифровое сканирование, и большинству из них приходится загружать правительственное телефонное приложение, которое собирает данные, включая списки контактов и текстовые сообщения.

«Уйгурская жизнь сейчас сводится к сбору данных», – сказал он.

«Все знают, что смартфон – это то, что вы должны носить с собой, и если вы не возьмете его с собой, вас могут задержать, они знают, что он отслеживает вас. И они чувствуют, что выхода нет», – сказал он. .

Большая часть данных вводится в компьютерную систему под названием Integrated Joint Operations Platform, которая, как утверждает Хьюман Райтс Вотч, выявляет предположительно подозрительное поведение.

«Система собирает информацию о десятках различных видов совершенно законного поведения, в том числе о том, выходят ли люди через черный ход, а не через парадный, заправляют ли они бензин в машине, которая им не принадлежит», – сказал Мисс Ричардсон.

«Власти теперь размещают QR-коды у дверей домов людей, чтобы они могли легко узнать, кто должен быть там, а кто нет».

Оруэлловский?

Уже давно ведутся споры о том, насколько тесно китайские технологические компании связаны с государством. Американская исследовательская группа IPVM утверждает, что обнаружила доказательства в патентах, поданных такими компаниями, которые предполагают, что продукты для распознавания лиц были специально разработаны для идентификации уйгуров.

Патент, поданный в июле 2018 года Huawei и Китайской академией наук, описывает продукт для распознавания лиц, который может идентифицировать людей на основе их этнической принадлежности.

Huawei заявила в ответ, что «не потворствует использованию технологий для дискриминации или притеснения членов какого-либо сообщества» и что она «независима от правительства», где бы она ни действовала.

Группа также нашла документ, который, по-видимому, предполагает, что компания разрабатывала технологию для так называемой системы «Один человек – один файл».

«Для каждого человека правительство будет хранить его личную информацию, его политическую деятельность, отношения … все, что может дать вам представление о том, как этот человек будет себя вести и какую угрозу он может представлять», – сказал Конор Хили из IPVM.

Hikvision производит ряд продуктов, включая камеры.
Hikvision производит ряд продуктов, включая камеры.

«Это делает любой вид инакомыслия потенциально невозможным и создает для правительства истинную предсказуемость в поведении их граждан. Я не думаю, что [Джордж] Оруэлл когда-либо мог представить себе, что правительство может быть способным к такому анализу».

Huawei конкретно не рассматривала вопросы о своем участии в разработке технологии для системы «Один человек, один файл», но повторила, что она не зависит от правительства, где бы она ни работала.

Посольство Китая в Лондоне заявило, что «ничего не знает» об этих программах.

IPVM также заявила, что нашла маркетинговые материалы от китайской фирмы Hikvision, рекламирующие камеру искусственного интеллекта, обнаруживающую уйгуров, и патент на программное обеспечение, разработанное Dahua, другим технологическим гигантом, который также может идентифицировать уйгуров.

Dahua заявила, что ее патент относится ко всем 56 признанным этническим группам в Китае и не преднамеренно нацелен ни на одну из них.

Он добавил, что предоставляет «продукты и услуги, которые направлены на обеспечение безопасности людей» и соблюдает «законы и правила всех рынков», на которых он работает, включая Великобританию.

Hikvision заявила, что информация на ее веб-сайте неверна и «загружена в Интернет без соответствующей проверки», добавив, что она не продает и не имеет в своем ассортименте «функцию распознавания меньшинства или аналитическую технологию».

Доктор Лан Сюэ, председатель Национального комитета Китая по управлению ИИ, сказал, что ему ничего не известно о патентах.

«За пределами Китая существует множество подобных обвинений. Многие из них не точны и не соответствуют действительности», – сказал он BBC.

«Я думаю, что местное правительство Синьцзяна несло ответственность за реальную защиту людей Синьцзяна … если в таких условиях используются технологии, это вполне понятно», – сказал он.

Посольство Китая в Великобритании выступило более решительно, заявив BBC: «Не существует так называемой технологии распознавания лиц с использованием уйгурской аналитики».

Ежедневное наблюдение

Ху Лю чувствует, что его жизнь находится под постоянным наблюдением
Ху Лю чувствует, что его жизнь находится под постоянным наблюдением

По оценкам, в Китае находится половина из почти 800 миллионов камер наблюдения в мире.

В нем также есть большое количество умных городов, таких как Чунцин, где искусственный интеллект встроен в основу городской среды.

Журналист-расследователь из Чунцина Ху Лю рассказал «Панораме» о своем собственном опыте: «Как только вы выйдете из дома и войдете в лифт, вас запечатлит камера. Камеры есть повсюду».

«Когда я ухожу из дома, чтобы куда-то поехать, я вызываю такси, таксопарная компания загружает данные в правительство. Затем я могу пойти в кафе, чтобы встретиться с несколькими друзьями, и власти узнают мое местоположение через камеру в кафе.

«Были случаи, когда я встречался с некоторыми друзьями, и вскоре после этого со мной связывался кто-то из правительства. Они предупреждали меня:« Не видь того человека, не делай того и этого ».

«С искусственным интеллектом нам негде спрятаться», – сказал он.

Узнайте больше об этом на Панораме. Ты еще боишься, человек? – доступно в iPlayer с 26 мая.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *