Human Rights Watch: Китай използва големи данни, за да насочи малцинствените групи

Китайското правителство използва алгоритми за прогнозиране на полицията, за да се насочи към етническите малцинства в провинция Синцзян, според доклад на Human Rights Watch, публикуван в понеделник.

Провинцията в Северозападен Китай е дом на 11 милиона уйгури, турска мюсюлманска етническа група, която е била дискриминирана от китайското правителство през последните години.

Сега властите твърдят, че използват големи данни, за да насочват системно към всеки, заподозрян в политическа нелоялност. Тласъкът е част от кампанията „Strike Hard“, насочена към отмяна на потенциалната терористична дейност в Китай. На практика това е довело до непропорционална полиция на уйгурите, казва Хюман Райтс Уоч.

Системата за предсказване на полицията, известна като IJOP - Интегрирана съвместна операционна платформа - се захранва с данни от различни инструменти за наблюдение. Те включват камери за видеонаблюдение, регистрационни номера и граждански лични карти, получени от контролно-пропускателни пунктове за сигурност, както и лична информация, включително здравни, банкови и юридически документи.

В допълнение към автоматизираното наблюдение, държавните служители провеждат посещения в дома, за да събират данни за населението. Един китайски бизнесмен споделя формуляр, който попълва за записите на IJOP с Human Rights Watch - наред с други въпроси, въпросникът попита дали бизнесменът е уйгур, колко често се моли и къде отива за религиозни служби.

Всички тези входящи данни се използват от IJOP за сигнализиране на хора като потенциални заплахи. Когато някой е подпечатан, полицията открива ново разследване и ги задържа под стража, ако те се считат за подозрителни.

„За първи път можем да демонстрираме, че използването на големи данни и предсказуеми полицейски действия от страна на китайското правителство не само нарушава правата на неприкосновеност на личния живот, но и дава възможност на служителите произволно да задържат хора”, заяви Мая Уанг, старши изследовател на Human Rights Watch.

Според доклада някои от хората, които са били подправени, са изпратени в политически образователни центрове, където са задържани за неопределено време без съдебен процес.

„От около април 2016 г., според оценките на Хюман Райтс Уотч, властите в Синцзян са изпратили десетки хиляди уйгури и други етнически малцинства в„ центрове за политическо образование “, се казва в доклада. IJOP заема доверие към тези задържания чрез прилагане на обективна, алгоритмична оценка на дискриминационните арести.

За да влошат нещата, вътрешната работа на НМПП е обгърната от секретност.

"Хората в Синцзян не могат да устоят или да оспорят все по-натрапчивия контрол на ежедневието си, защото повечето не знаят дори за тази" черна кутия "или как работи", каза Уанг.

Същият проблем е и в най-сложните системи за машинно обучение: процедурите за вземане на решения, които използват, са непрозрачни дори и за създателите на алгоритъма.

Използването на IJOP от Китай заслужава да се обърне внимание, тъй като предсказуемият полицейски процес вероятно ще се разрасне с подобряването на технологията. Както посочи Джон Кристиан Структурата, предсказуеми полицейски системи вече се използват на някои места в Съединените щати. Полицейското отделение в Лос Анджелис използва софтуер, който предвижда къде и кога могат да възникнат престъпления, така че офицерите могат да ги отстранят.

От друга страна на системата на наказателното правосъдие, съдебните зали понякога използват алгоритми, които дават възможност на потенциалните съдии да оценяват риска, за да помогнат на съдиите да вземат по-информирани решения. За съжаление, тези предполагаеми безпристрастни алгоритми всъщност дискриминират въз основа на раса.

Напредъкът на Китай в предсказуемото управление подчертава значението на отговорното прилагане на алгоритъма, тъй като машинното обучение продължава да навлиза в публичния сектор. Може би е време техническите правителства да приемат нова мантра: понякога изкуственият интелект създава повече проблеми, отколкото решава.