【除了逮你還能逮誰~】用 AI 人臉辨識緝凶,警卻誤抓嫌犯莫名被關 10 天

圖片來源:Pexels

【我們為什麼挑選這篇文章】AI 辨識技術日趨成熟,也開始應用在生活中的方方面面,包含緝匪。但是 AI 做出的判斷真的能直接作為扣押人的依據嗎?以目前技術來看,AI 頂多能縮小緝查範圍,找到相似的面貌。但直接判定的證據仍然需要多方比對才不致冤獄。美國警方前陣子就發生了一件烏龍,不僅用假護照的照片作為追查依據,還扣押了這位被 AI 誤判的人。(責任編輯:郭俐伶)

本文經 AI 新媒體量子位(公眾號 ID:QbitAI)授權轉載,轉載請聯繫出處

作者:量子位

什麼都沒做,就莫名其妙被員警關了 10 天?
這是發生在美國新澤西州的一段真實故事。

一個酒店偷竊案件,嫌疑人駕車逃逸。員警沒有驗指紋、沒測 DNA,僅靠人臉識別系統,就鎖定了「罪犯」Nijeer Parks(帕克斯)。

編按:駕車逃逸的嫌疑犯當初受警方臨檢的時候,出示了假證件,該證件被警方懷疑之時對方就逃之夭夭了,留下這本假證件。警方就根據假證件上的相片用 AI 找到了帕克斯。

但尷尬的是,帕克斯壓根就沒去過那個地方,也不知道那個酒店在哪。甚至也不會開車,連駕照都沒有。去警局的時候,還是他的表哥開車送他的,結果還是被關了 10 天。

警方用「假證件」上的照片追查嫌犯?

據 NJ Advance Media 報導,去年(2020)1 月,在新澤西州伍德布裡奇市漢普頓酒店,發生了一起偷竊案。嫌疑人在酒店禮品店偷了糖果和其他零食,在酒店人員報警後逃到了一間男廁所。在警方趕到時, 該男子交出一張駕照,顯示自己是 Jamal Owens。

警方通過巡邏車內的電腦查到,該駕照無效的,可能是嫌疑人偽造。正當警方準備逮捕時,該男子從酒店門口逃出,跳上了一輛道奇挑戰者後逃逸。據 NJ Advance Media 援引法庭檔披露,當時嫌疑人還撞上了他們的巡邏車。一名警員追蹤該車後發現車輛被遺棄在一個停車場。

「道奇挑戰者」(非當事車輛)

於是,神奇的事情從第二天開始了。

來自紐約、新澤西兩大州的調查人員,通過面部識別軟體,掃描了駕照檔,與警察局、FBI 資料庫中存檔的嫌疑人照片進行比對,找到了與照片「高度匹配」的人。

編按:不是,既然都知道是假證件,那照片也有很高的機率是假的吧?

這類軟體,主要依賴於數十億張社交媒體照片來識別犯罪嫌疑人,一直飽受詬病。由於某種原因,NJ Advance Media 沒有具體透露。目前,新澤西州已經禁止使用這種軟體。

然後,兩個州的警方告訴伍德布裡奇市的同事:我們找到嫌疑人啦!

警方找到與證件照片找片吻合的嫌犯

嫌疑人被確定為帕克斯,並以他的名義發出了逮捕令,指控他犯有商店盜竊、偽造政府檔、拒捕、嚴重的武器攻擊、離開事故現場等罪名。隨後,警方檢查了幾個地址,試圖逮捕帕克斯,但無法找到他。

帕克斯通過祖母知曉了這件事情,隨即要求表哥開車送他去警察局,想澄清誤認問題。但是一到警察局門口,他就直接被銬上手銬,被七八個員警同時審訊。在裡面,員警給他看了受損的道奇挑戰者的照片,並一直逼問:你知道你做了什麼?

帕克斯解釋無果,直接被關進監獄,他透露在保釋前,在那裡待了 10 天。

當時監獄檢察官提醒他:如果乖乖認罪,作為交換條件,他將在監獄中服刑 6 年,直到他服完 85% 的刑期就可以提前釋放,其中還有 3 年假釋。但帕克斯認為,如果他接受審判,檢察官會根據他以前的犯罪歷史尋求 20 年或更長時間的判決。

帕克斯曾因販賣毒品而被定罪 6 年,但出獄後決定改過自新,找到一份普通的工作,與未婚妻過著安穩的生活。但這件人臉識別案件,打破了他的寧靜。開啟了一年多的訴訟之旅。

帕克斯的律師頓對鎮政府、警察局和包括市長約翰-麥科馬克在內的公職人員提起訴訟,指控調查人員依靠面部識別軟體侵犯了他客戶的權利。市長的發言人表示,鎮政府還沒有看到民事申訴,無法發表評論。目前,一名高級法院的法官已經開始向檢察官辦公室施壓,要求他們在案件中拿出更多的證據,而不僅是面部識別軟體。

總之,看起來事情還沒結束。

抓罪犯,人臉辨識說了算?

無獨有偶,這不是美國第一次出現人臉識別抓錯人。帕克斯被抓還不是類似事件中最嚴重的一起。2014 年,一位名叫史蒂夫·塔利(Steve Tally)的財務顧問被誣告搶劫了兩次銀行。第一次是在當年 5 月 14 日,第二次是在他被捕前 10 天,也就是 9 月 5 日,並且被控在第二次搶劫中毆打一名警官。

在警方公開發佈 9 月份搶劫案的監視圖像之後,認識塔利的三個熟人撥打了警方熱線,並指出了塔利外表與劫匪之間的相似之處。就連塔利的前妻在看了警方提供的圖片後,也認為是他。

但塔利有充分的不在場證據:他當時正在一家公司裡上班。警方沒有理會,還把塔利關押了兩個月,在這期間打傷了他。直到兩個月後,塔利的辯護人拿出了他在公司上班的監控錄影,塔利才得到釋放。

2009 年,美國國家科學院的一篇論文指出:除了 DNA 測試外, 有其他法醫證據方法可以可靠且始終如一地證明證據與特定個人或資料來源之間的聯繫

從技術上來說,人們無法從人臉識別上確定某個嫌疑人的唯一性。而 FBI 的法醫音訊視頻圖像分析部門自己也知道,人工進行人臉比對,結論最終會基於個人觀點。

AI 演算法能一次辨識數百萬張臉,但卻不能成為絕對性的證據

早在 2008 年,FBI 年的一份報告中建議圖像部門研究量化面部特徵的頻率。然而人類已經努力了 100 多年,目前為止還沒有定論。人臉識別另一個問題是,將監控攝像頭會壓縮視頻圖像,導致用來區分嫌疑人的皮膚、靜脈和痣等圖案被去除、損壞或變形。塔利被捕就是因為 9 月的監控視頻中強盜的臉上存在痣。

實際上,由於採集視頻的光照條件不同,會導致一些偽影被誤認為痣。雖然當年抓捕塔利使用的是人工對比,但到了今天,準確率更高的 AI 來做人臉識別依然問題重重。

演算法可以在幾秒鐘內搜索數百萬張臉,對於具有規則照明和標準化姿勢的圖像,許多人臉識別系統的準確率都超越了人類。但仍然沒有一個演算法可以保證 100% 的正確率。

在專業性上,AI 演算法的可解釋性差,人臉識別缺乏支援法醫意見的經驗資料。

說到人臉識別抓罪犯,不知你是否會想起幾年前張學友演唱會的五連殺?當時警方依靠人臉識別,連續抓住了 5 名逃犯。但相比之下,英國的員警就沒有這麼好運了。在 2017 年的歐冠比賽上,英國警方使用了人臉識別系統,結果總共發出了 2470 次警報,相當於每隔三秒就會提示嫌犯來了,錯誤率高達 92%。

因為擔心隱私被圖像採集方洩露,浙江理工大學副教授郭兵將使用人臉識別技術的杭州野生動物世界告上了法庭,成為中國「人臉識別第一案」。

最終,動物世界刪除郭兵辦理年卡時提交的面部特徵資訊。

人臉識別面部資訊屬於個人敏感資訊,一旦洩露將對個人的人身與財產安全造成極大的危害。也正因如此,人們對於人臉識別的態度越來越慎重。

去年 5 月,舊金山出於安全與隱私的考慮,禁止政府使用人臉識別技術,成為全球第一個禁用人臉識別的城市。科技公司對人臉識別的態度這些年也越來越謹慎,IBM 退出研究這項技術,微軟也刪除了用於研究的大型人臉識別資料集 MS Celeb。

延伸閱讀:【科技不要『臉』】IBM、微軟、亞馬遜對人臉辨識技術喊停,AI 發展的下一步會是什麼?

人臉識別這項 AI 最初的殺手級應用,成就許多 AI 明星公司。但發展至今,人臉識別也正在來到一個十字路口。一端,它的便利已經充分展現;另一端,伴隨的隱私爭議和錯誤率難題,也不斷以新事件登上熱搜。

用不用人臉識別?在什麼地方用人臉識別?如何用人臉識別?都在成為新時代裡的難題。

另外,聽說現在不少社區,都改人臉識別了?

(本文經 量子位 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈人臉識別“抓”錯了人,他在監獄待了 10 天 〉;首圖來源:Pexels。)

你可能會有興趣

【你的保單簽名將由 AI 辨識】IBM 成功用人工智慧判別親筆簽名,準確率達 85%

【中國破獲大規模隱私犯罪產業鏈】AirPods 充電盒、行動電源全化偷拍監聽工具

【毛茸茸的臉部辨識】矽谷工程師夫妻因為太喜歡棕熊,開發出 AI 熊臉辨識技術


《TO》深度專題! 

《TO》新專題持續上線! 台灣有沒有機會搭上電動車開發熱潮,打造意想不到的創新服務?訂閱電子報 獲取最新深度報導。

點關鍵字看更多相關文章: