亞馬遜被 15 萬用戶加股東集體聯署抗議:AI 刷臉我可以,但是賣給政府就不行

【我們為什麼挑選這篇文章】人臉識別技術逐漸成熟,許多的商業場合也可以看到相關的應用,但是若有一家人臉識別做得很好的公司,要把技術賣給政府,你願意嗎?

現在,相關的抉擇正衝擊著全球科技龍頭之一的亞馬遜,由於其兜售政府自家臉部辨識技術的事情被曝光,現在已經有來自股東與用戶共 15 萬人的連署,要求亞馬遜不准賣,而亞馬遜在道德與利益之間到底該如何取捨,恐怕難題現在才剛開始。(責任編輯:林厚勳)

作者 / 量子位 阿瑞斯
本文經 AI 新媒體量子位(公眾號 ID:QbitAI)授權轉載,轉載請聯繫出處

今年這個 618,亞馬遜過得並不開心。

Google 5.5 億美元(約為台幣 165.8 億元)戰略投資京東的消息,你可能已經聽聞,有分析說就是針對亞馬遜開的槍。

但比起用戶和股東公開抗議來,谷歌投資京東簡直「嚇嚇誰啦」—— 一家始終標榜「用戶第一」的公司,現在遭遇用戶和股東簽名抗議,已有超過 15 萬人參與,是可忍孰不可忍?

一切因「要臉」而起。

刷臉可以,賣給政府不 OK

美國時間 6 月 18 日下午,多個民間組織向亞馬遜發起了簽名抗議,兩封公開信,收件人都是亞馬遜創始人貝佐斯。

一封以民間組織和亞馬遜用戶為主,另一封簽署者都是股東。

但核心主題只有一個: 要求亞馬遜停止向美國警方出售人臉識別技術。

運用人臉識別實現安防,並不新鮮。但在隱私極度敏感的美國,利用人臉識別進行監控,始終爭議難休。

最近,亞馬遜在積極向美國執法部門兜售人臉識別技術 Rekognition 被曝光,於是捲入此次抗議紛爭。

Rekognition 是基於 AWS 的圖像識別和分析的平台,提供的功能包括物體和場景檢測、面部分析、面部比較和面部識別,而且亞馬遜還將其快速部署到了會員照片服務中,在為會員用戶提供免費照片存儲。至今已有數十億張照片。

所以簽名抗議者擔心的,正是亞馬遜如此大數據優化後的模型,一旦警用,就能輕鬆打造用於監控追蹤的 AI 模型。

聯名信中擔憂稱,這個模型不僅能讓美國警察和政府用來人臉比對,還會很方便知道「你去過哪些地方」、「跟誰在一起」,甚至「一直在做什麼」……

總而言之,抗議者訴求很直接:這個刷臉 AI,不能 To G (TO 編按:To Government,對政府) 商業化。

自由高於一切

不知道非美國本土居民的你,有沒有覺得這些抗議者有些無理取鬧?

一方面,俗話說「不做虧心事,不怕 AI 敲門」;另一方面,亞馬遜愛跟誰做生意,與又有你何干?

當然,這些抗議者當然有自己的原因,最主要的就是可能損害自由。

比如人臉識別技術用來監控弱勢社區,或者監視一些長期從事宗教、抗議等活動的民間組織團體 —— 一切都在警察眼皮底下,那還怎麼組織抗議?

另外,也有一些反對現有移民政策的組織認為,各地警方可能不僅會在執法中使用,還會跟 ICE 等機構共享監控信息,從而損害移民的正當權利。

所以因為種種可能損耗公民自由的因素,亞馬遜如此易用且可以快速大規模部署的 Rekognition,自然不能 To G。

FBI 的 85% 準確率

那麼問題來了,難道美國警方就不能自己搞個 AI 識別的項目或模型嗎?

答案是:可以,但太爛。

更早之前,2016 年,FBI 就開發過一個人臉識別系統,背後還有一個 41.1 億張照片的數據庫。

當時 FBI 通過與 18 個州交換合作,得到了簽證、護照、國防生物識別數據庫、駕駛證等證件上的照片——以及 3000 萬張曾經犯罪的入檔照片。

FBI 還為這個數據庫專門取了個「次世代識別」(Next Generation Identification)的名稱。

然而,據英國衛報報導,FBI  的人臉識別算法準確率只有 85%,往往會有兩種失誤情況:一種是錯誤匹配,冤枉了無辜的平民;另一種則是漏報,即錯誤放走了出境或入境的罪犯。

更令人不安的是,FBI 的這套系統識別黑人比識別白人的出錯率要高一些,這就觸碰到了美國第一天條——「種族歧視」。

於是爭議也就伴隨其中,但更複雜的是,一邊因為隱私和自由不讓上馬亞馬遜的 AI,另一邊又 diss FBI 錯誤率較高的模型,而 FBI 等美國官方組織,根本無法完全捨棄掉大大提升生產力的人臉識別布控。

最後只能一團糟:抗議的抗議,繼續的還在繼續,撕裂狀態 ing。

亞馬遜不打算妥協

另外,截至目前,亞馬遜官方也沒有要妥協的樣子。

在 6 月月初,亞馬遜曾對此公開回應過,其中表示亞馬遜 Rekognition 主要面向開發者,但在面向執法者過程中,亞馬遜是明確禁止被用於「任何違法,侵犯他人權利或可能危害他人的活動」。

總之不僅會堅持合理合法使用,也會堅持與各種可能的隱私問題作鬥爭——亞馬遜將此總稱為 AUP 政策,只要客戶還沒有違反 AUP,就不會因為其他質疑按下停止鍵。

而且目前美國的大背景是,剛剛通過了法案禁止官方採購海康威視、大華等中國安防公司的攝影設備和服務,亞馬遜在美國本土自然也少了很多潛在競爭對手。

在商言商,正是天時地利的時候。

— 完 —

─ ─

(本文經 量子位 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈 亞馬遜遭遇 15 萬人聯名抗議:AI 刷臉可以,但賣給政府不 OK 〉。)

人臉辨識給政府用,到底會多恐怖?

北市路燈有人臉辨識功能,這招「安全監控」從中國抄來的嗎?
「我只是想看張學友!」,通緝犯在歌神演唱會上被人臉辨識安保一秒逮到
中國公安人臉辨識驚悚應用:敢闖紅燈就連個資一起放上網公審
中共侵犯隱私新利器:警察配戴「人臉識別墨鏡」,看你一眼就完成身家調查!

點關鍵字看更多相關文章: