立場新聞 Stand News

MIT 夥拍 IBM Watson Lab 研發防監控 T恤 對抗 AI 人臉辨識系統

2019/12/4 — 16:17

作者提供圖片

作者提供圖片

以為人臉辨識加上步態識別技術已經為人類帶來徹底性的監控災難?所謂「道高一尺,魔高一丈」!最近東北大學(Northeastern University)和麻省理工學院華森人工智慧實驗室(MIT-IBM Watson AI Lab)研發出一種特殊圖案,穿上印有此圖案之 T恤後就能避過人工智能(AI)人臉辨識系統監控,讓穿著者在監控鏡頭前「消失」。

按前文提及,人臉辨識系統先把面容特徵標記下來,這些特徵包括面容形狀、眉毛、眼睛、嘴巴等等。然後創建 128 個編碼值的面部標記,輸入到人工智能模型進行訓練。要欺騙 AI,可以利用生成對抗網路(Generative Adversarial Network GAN)方法,早前介紹 Deepfake 文章有講解過相關技術。

這種反 AI 技術的對抗性設計旨在「欺騙」所採用之演算法,讓它提取特徵與真實的有差別,甚至乎什麼也提取不到。對於人類來說,這種變化可能是難以察覺;但是對於機器演算法來說,它可能非常有效。

廣告

作者提供圖片

作者提供圖片

廣告

跟各位分享一個真實案例。在 2017 年,麻省理工學院 AI 研究小組 LabSix 展示了第一個成功「欺騙」案例,讓真實世界中的 3D 對像在任何角度都變成「對抗性」對象。這團隊成功讓系統錯誤辨別一個 3D 打印的烏龜為步槍!

把圖案印上 T恤而避開監控其實也有其難處。研究人員一開始把圖案印上硬卡紙來瞞騙 AI 系統,因為圖案不會變形,所以效果不錯。但如果印在柔軟物料上,圖案會隨著穿著者移動時變形。如果設計變形或部分外觀不可見,則無法達到預期效果。

由於沒有人會為了隱藏於監控鏡頭中而隨身攜帶一大張硬卡紙,因此研究人員想出了一種方法來解決移動布料在生成對抗網絡的計算問題,讓系統亦能辨認出打印在衣服上時的扭曲圖像。

作者提供圖片

作者提供圖片

隨了隱藏人像於監控系統當中,還有其他欺騙系統之應用。數位安全專家及時裝設計師 Kate Rose 早前在 DEF CON 27(DEF CON 是每年在拉斯維加斯舉行的一次黑客會議)上展示了她的「對抗時尚」服裝系列。她利用假車牌覆蓋著整件衣服,讓這些垃圾數據被紀錄在車牌讀取系統中。

暫時,利用生成對抗網路這個方法來欺騙系統也有其局限性,對 Microsoft Azure、 Amazon Web Services 和 Google Cloud Platform 等辨識系統並不能使用。隨著科技越趨成熟,究竟辨別系統還是欺騙技術較為優勝?最後結論還有代分曉。

如果希望獲得更多人工智能或編程教育相關資訊,請關注作者之Facebook專頁


 

發表意見