BBC:新疆警局安裝人工智能偵測維吾爾人情緒

早前爆出阿里巴巴的人面識別系統可用作辨識新疆維吾爾族人,阿里巴巴後來要發聲明,指已刪去種族標記功能,惟現在再有中國軟件工程師對英國廣播公司 (BBC) 節目《Panorama》披露,新疆警察部門正以人工智能系統(AI)測試情緒識別功能。有人權運動人士形容事件令人震驚。

AI 分析被綁疑犯面部表情毛孔變化

該名不具名、未有透露所屬公司的中國軟件工程師對 BBC 展示 5 張圖片,稱中國當局正在測試情緒識別系統,「中國政府以維族人為測試對象,就如同老鼠實驗般。」他指自己的工作是在新疆多所警局內安裝攝影機,「我們將這些情緒識別攝影機置於受測者 3 米前。這有如測謊機的運作,但用上更先進的科技。」

沒任何可靠證據下預先判斷

他指警員會對疑犯使用「約束椅」,雙腕及脚踝會被鎖上。系統會檢測及分析疑犯的臉部表情以及皮膚毛孔的改變,從而運算出其情緒變化,並製作「情緒狀態分布圖」,在圓形圖(pie chart)顯示出被審訊者的情緒,例如代表負面或憂慮情緒的紅色佔比為多少。他表示,軟件旨在「於沒有任何可靠證據下,進行預先判斷」。事實上,科研界一直都對「測謊機」,或者以表情及生理變化作為「測謊工具」的可信性有懷疑。

人權監察中國區總監 Sophie Richardson 對 BBC 指,「這是令人震驚的資料。這不只是人被簡化成圓形圖,這還是處於高度脅迫條件、高壓、在可被理解的緊張情緒下,被視作為有罪的指標。我認為這是非常有問題。」

新疆人權爭議成為近年國際關注重點,歐美多國指中國針對居於當地的維吾爾族人進行「種族滅絕」行為,包括強制勞役及設有中國聲稱的「再教育營」的高設防拘留營,估計有逾百萬維族人被囚禁。北京已多次否認。

家門置二維碼,誰在誰不在一目了然

今次已非中國政府及企業首次被指以新科技監控新疆民眾,科羅拉多州大學研究人員 Darren Byler 指,當局定期會收集新疆維族人的 DNA 數據、並在智能電話上安裝軟件收集數據等:「維族人生活就是在生產數據⋯⋯每個人都知每日都要帶著智能電話,如果不帶著就可能會被捕,他們知道正被追蹤,無處可逃。」

人權監察指,大部份維族人數據會在「一體化聯合作戰平台 (Integrated Joint Operations Platform, IJOP) 」處理,這些數據會記錄民眾的日常行為:「系統會收集幾十種完全合法行為的數據,包括是否走後門而不是前門,是否為不屬於自己的汽車入油等⋯⋯當局也會在維族人家門口放二維碼,由此輕鬆得知哪些人應該在那兒,哪些人不應在那兒。」

來源:BBC

編輯推介

    發表意見