立場新聞 Stand News

憂執法部門濫用 IBM、Amazon 相繼宣佈停止或暫緩人臉辨識系統開發

2020/6/11 — 11:46

資料圖片,圖片來源:NIST

資料圖片,圖片來源:NIST

美國示威浪潮引起社會對種族不公及警察濫暴問題爭議,IBM 及 Amazon 也因此在近日相繼宣佈停止人臉辨識系統,擔心執法部門濫用技術。

美國科技巨頭之一的 IBM 周一 (8/6) 宣佈,會停止人臉辨識技術研究計劃。 IBM 行政總裁 Arvind Krishna 甚至致函國會,指他們因憂慮技術會被執法部門使用,因此不會繼續開發一般應用的人臉辨識及分析技術。事隔兩日,Amazon 也在周三 (11/6) 宣佈會暫時停止執法部門使用旗下的人臉辨識產品 Rekognition ,為期一年。

人臉辨識技術近年因深度學習 (deep learning) 演算法及新硬件開發而大幅進步,準確度比早期產品明顯改善。不少國家執法機關開始採用相關技術協助執法,甚至用於建設監察系統,也因此引起不少私隱爭議。

廣告

然而,麻省理工學院 Media Lab 電腦科學家 Joy Buolamwini 在 2018 年發表報告,指現時主要科技公司的人臉辨識技術存有明顯誤差,系統辨識深黑皮膚女性的誤差最高,達 34.7%;相反,對淺色膚色男性的辨識誤差只有最多 0.8%。Buolamwini 等人也在 2019 年發現 Amazon 的 Rekognition 同樣有類似問題。《紐約時報》調查指偏差相信是因為用於訓練系統的數據主要為男性及白人

一直關注人臉辨識技術偏差問題的紐約大學研究人員 Deborah Raji 指,Buolamwini 及她在過去幾年已不斷反對 Amazon 將仍有偏差問題的系統銷售予執法部門,但 Amazon 一直拒絕承認相關問題,甚至試圖抹黑她們的調查成果。她在 Twitter 帖文形容「與 Amazon 周旋至今日的成果是地獄」。

廣告

雖然 IBM 及 Amazon 相繼停止或暫停相關研究,另一家為美國多個執法部門提供人臉辨識系統的科技公司 Clearview AI 則未有計劃停止相關項目,外媒 The Verge 引述該公司聲明指:「儘管 Amazon 、 Google 及 IBM 決定離開市場,但 Clearview AI 相信有責任地使用人臉辨識可保障兒童、財務欺詐受害者,以及其他影響社區的罪行。」聲明指 Clearview 產品實際可行,但重申產品並非用於監察抗爭或其他情況之上。

人臉辨識技術爭議不限於美國科技企業,去年澳洲戰略政策研究所 (Australian Strategic Policy Institute) 曾揭發「千人計劃」學者之一的華裔人工智能研究人員申恆濤在 2015 年成立考拉悠然科技中心 (Koala AI Technology) ,為中國政府提供監察維吾爾族人的技術,涉嫌違反澳洲研究指引及國防貿易管制法 (Defence Trade Controls Act) 而被昆士蘭大學調查,不過至今仍未有結果。

人臉辨識技術及其他人工智能系統日漸成熟,但大部份國家都未有足夠針對技術的法律,規範企業及政府使用,而社會間亦欠相關討論,今次美國示威相信會再觸發相關討論及關注。 

來源:
The Vox Recode, Why it matters that IBM is getting out of the facial recognition business, 10 June 2020
The Verge, Amazon bans police from using its facial recognition technology for the next year, 10 June 2020

文/Edward Ho

發表意見