資料圖片

被揭人臉識別系統 可辨識維吾爾人 阿里巴巴:已刪除種族標記功能

中國科技龍頭之一阿里巴巴研發的人臉辨識系統,日前被揭發可用作辨識新疆維吾爾族人,惹來外界質疑;阿里巴巴今日發表聲明,指阿里巴巴將不再容許其產品用作針對及辨識特定族裔人士;又指對人臉識別系統包含族裔辨識功能感到「沮喪 (dismayed) 」,已將所有產品內的種族標記功能刪去。

人工智能科技雖為生活上帶來不少便利,但也有機會被濫用甚至侵害人權。影象監控研究組織 IPVM 日前從阿里巴巴網站,發現網頁介紹對人臉識別系統的介紹中,示範了可用於辨識維族人或其他小數族裔的功能,同時附有相關使用詳細說明。根據網站簡介,用戶可以簡單地將圖片或影片上傳,系統則可判斷圖中或片中人,是否維族人。不過相關資料在 IPVM 查詢後,已被阿里巴巴刪除。

阿里巴巴在未有提供進一步證據及原因下解釋,這些功能「只可在測試環境中使用」。路透社引述該公司今日發表的聲明指,阿里巴巴將不再容許產品,針對辨識特定族裔人士;指公司對於包含族裔辨識功能感到「沮喪 (dismayed) 」,亦已將所有產品種族標記功能刪去。

據 IPVM 及《紐時》調查阿里巴巴系統使用說明書內指,人面識別系統屬其雲盾服務功能之一,而雲盾則是內容安全 (Content Security) 的先驅,可用作檢測及識別包含色情、政治、暴力恐怖主義、廣告及垃圾郵件的文字、圖片、影片及聲音等,以用作驗證、標記等功能。

IPVM 從系統兩份說明書發現,兩份都寫有系統可判斷輸入的資料中,是否包含「少數族裔」或者「少數族裔(維族人)」的字眼。IPVM 指,暫時未發現阿里巴巴旗下產品有用到判別維族人的功能,但同時指阿里巴巴的產品包括影片網站優酷,而阿里巴巴本身也有直播系統,微博也採用阿里雲服務。

IPVM 亦發現另一間中國雲端服務企業 Kingsoft,也疑似有辨識維族人功能,但隨後也刪除了該功能,並指從未銷售相關功能。此外,IPVM 上周也聯同《華爾街日報》揭發,華為系統也可用作辨識維族人,球星基沙文也因此宣佈終止與華為合作。

新疆維吾爾族人權狀況惡劣,較早前已有不少媒體報道,當地不少維族人被以「再教育」為名,關押在當地的「再教育營」,部份人被迫強制勞役,部份產品亦出口至全球各地。美國較早前就指此些涉事產品涉違人權,禁止入口銷售。 

來源:IPVM, 紐約時報, 路透社

編輯推介

    發表意見