人臉辨識可以分辨人的政治立場跟性傾向,科學家警告:這項技術不難,當心有心人士

Photo by Amanda Dalbjörn on Unsplash

史丹佛大學的研究人員近期發表了一項研究成果,表示他們製造了一個機器學習模型,可以僅透過人臉辨識判斷一個人的政治傾向。這個研究團隊在 2017 年時,就已用同樣的方式判斷出一個人的性傾向。他們的研究說明, 一個人的外貌比你想的還要透漏出更多個人資訊。

AI 政治雷達?怎麼辦到的?

這個技術其實不困難,研究人員 Michal Kosinski 說明,他們就是照著機器學習運作的方式進行實驗:餵 AI 超過一百萬張人臉的照片,讓他學習。這些照片是從美國、加拿大與英國的交友網站臉書上取得的,而在這些網站中,也可以知道這些用戶的政治傾向:保守派或自由派。

演算法本身是從開源的人臉辨識軟體中獲得的,研究團隊將每張照片處理成只有臉的照片之後,演算法就會把照片上的特徵再行刪減,如:把對電腦而言無意義的睫毛顏色、鼻子形狀去掉,再做判斷。

(圖片來源:Michal Kosinski / Nature Scientific Reports

AI 在知道照片中的人臉各自對應到的政治傾向後,就會 開始研究被保守派與自由派的人的臉部數據之間的差異。而 事實證明,兩種立場的人存在著差異。

當然這些差異不會是「保守派的人眉毛比較濃密」或是「自由派比較常皺眉」這樣簡單,也與年齡或膚色無關。

在檢測時,研究團隊會提供一個保守派、一個自由派的兩張照片,讓 AI 猜兩人的政治傾向。 若是同年齡、同膚色、同性別的兩個人,AI 的正確率約為 71%;若兩人的年齡、膚色或性別不同的話,AI 的正確率更高達 73%。 若是真人來猜測的話,正確率約為 55%。

(圖片來源:Michal Kosinski / Nature Scientific Reports

為了更瞭解是不是特定臉部特徵是政治傾向的差別,Kosinski 團隊也有單獨測試特定的臉部特徵,如:鬍子、凝視相機的方向、臉上的情緒等,但沒有一項顯著地提高預測的正確率。

研究引起反彈,科學家:希望能警告大眾人臉辨識的風險

這個研究在本週刊登在《自然》期刊的科學報告上後,便引起反彈。不過眾人反彈的對象並非研究的手段,而是研究本身的概念。Kosinski 表示,這項研究與 2017 年 AI 判斷性傾向的研究一樣,起初他只是為了挑戰「非物理性的概念是否能被 AI 偵測」這個觀念,而在研究成果出爐後,他與大家一樣感到驚訝與不安。

Kosinski 表示,他的目的不是為了製造出一個 AI 同志雷達(Gaydar)或是 AI 政治判讀器,反而是相反的目的;他們希望能警告大眾:這件事是有可能做得到的,而若這項技術被用於超出學術用途,將帶來嚴重影響 。Kosinski 也在研究中強調,他反對廣泛運用人臉辨識技術。

以下是研究團隊對於 AI 能夠辨認性傾向的研究發表的聲明:

我們看到結果時感到相當不安,也花了很長的時間考慮是否要將實驗成果公開,因為我們不希望提高這件事成功的可能性——而且這件事正是我們要警告大家的。我們認為,什麼時候、對誰出櫃的控制權不只對一個人而言至關重要,更是與一個人的安全息息相關。

我們認為這項研究應讓政策制定者與 LGBTQ 群體意識到這個風險的存在。我們並不是在建造一個侵犯隱私的工具,而是要提醒大眾這項基礎而被廣泛使用的工具有可能造成嚴重的隱私威脅。

人臉辨識的應用風險為何?

儘管七成的正確率聽起來不是那麼嚴重,但大於人們猜測的正確率已經足以作為一定程度的警訊了。而就算政治傾向並非一個人最私密的資訊,但一個人的臉也不應成為判斷一個人政治傾向的依據;此外,同樣的研究也證實可以判端出一個人的性傾向,這便更加侵犯了一個人的隱私資訊。

根據紐約時報報導,中國阿里巴巴已經提供人臉辨識的技術,以應用在識別維吾爾族人;而在美國則是有越來越多的地區禁止執法機關使用人臉辨識的技術,以避免助長種族歧視、性別偏見的問題。若這項技術被用在超出學界範圍,將對社會帶來嚴重影響,例如:專制政權掌握了人臉辨識的技術,並根據 AI 判斷結果直接進行執法,就只「因為 AI 認為你是『極端主義份子』、『同性戀』。」不但侵害人民的權利,執法的正當性、合法性也更有疑慮。

Kosinski 重申,這項研究的目的,正是提出這個威脅的警告。AI 可以用來判別一個人的「內在特質」的可能性正在提高,不論是政策的制定者或是人民,都應該要更加重視。

參考資料

TechCrunchScientific Reports

(本文提供合作夥伴轉載。)

你可能有興趣


混合辦公蔚為風潮,企業 IT 防疫你做了嗎?

同事們不斷回報 Wi-Fi 網路連線、資訊存取等問題嗎? 立即斬斷這些疑難雜症,全公司的連線體驗一次超進化,還可獲得 2021 雲端網管黃金白皮書 >> 進入測驗

點關鍵字看更多相關文章: