被騙不可怕,可怕的是騙你的根本不是人!AI 和富比世記者 PK 網路釣魚,輕鬆讓 275 人上鉤

Photo credit: chriscorneschi via Visualhunt.com / CC BY-SA

【我們為什麼挑選這篇文章】一位富比世資深記者和 AI 比賽網路釣魚,結果大概不令人意外,當然是人工智慧獲勝了。然而,值得靜下來想一下的是:「人工智慧在掌握人類足夠資訊的情況下,已經有能力欺騙人類,而且能夠規模化對於人類的傷害(詐騙)。」

你注意到了嗎?人工智慧正在「武器化」,恐怕會成為世界各國軍備競賽的重要發展項目,而且實力不容小覷。(責任編輯:劉庭瑋)

台灣的詐騙市場規模高達 2000 億,全台灣平均每個人每年被騙 9000 元(我聽到這個數據也嚇到了),現在這個規模因為人工智慧大概有機會再往上了。

兩個來自 ZeroFox(一間位在美國馬里蘭州的網路安全公司)的資料科學家進行了一個有趣的實驗:要讓人工智慧和人類在 Twitter 上比賽誰最會製造「釣魚連結」,騙其他使用者點擊。

這個 AI 被取名為 SNAP_R,而人類的參賽者則是富比世的資深作家 Thomas Fox-Brewster。兩位參賽者在推特上製造釣魚推文,誘騙使用者點擊,看誰在一定時間內騙到最多的使用者。

實驗結果大概不令大家意外,SNAP_R 大勝: 人工智慧平均每分鐘製造出 6.75 則釣魚推文,成功誘騙 275 名人類;反觀 Thomas 平均每分鐘只有製造出 1.075 則推文,最後只騙到 49 名人類。

這個實驗再次激起了人們對於人工智慧被拿來威脅人類的擔憂。

其實,人工智慧早就被拿來「武器化」了,變成現在世界先進各國軍備競賽的主要項目之一,所以中美各國都競相投入龐大的資源來發展人工智慧,另一方面也阻擋對手獲取最先進的人工智慧技術,從美國最近動作頻頻就可以看出來。

美國外資投資委員會(CFIUS)從幾年前就開始嚴審中國資本在美國的投資,避免被「以商圍政」導致重要技術外流,今年六月時更傳出尤其要針對「人工智慧」相關的投資做更嚴格的把關。

在去年白宮發佈的人工智慧白皮書當中,也特別把「資訊安全」列為人工智慧最重要的領域之一,比什麼無人車都重要多了。

未來真實的戰爭,是發生在虛擬世界,聽起來很怪,但資訊安全絕對是探討人工智慧政策時不可忽視的一個議題。

(本文經 程世嘉    授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈 ZeroFox 的人機釣魚比賽   〉。)

延伸閱讀

【遊戲工程師要失業了?】人工智慧只「看」2 分鐘超級瑪莉歐,就能完美複製它
終結阿茲海默症!人工智慧提早 10 年「認出」失智症患者,準確率高達 84%
一位陣亡 Fintech 創業家:在國外成熟的服務,我們在台灣卻被當詐騙集團
台灣 Whoscall 防詐騙好口碑世界看見了!手牽手合作南韓金管會,電話詐騙還往哪躲
【科技巨頭也躲不過釣魚郵件】男子假冒廣達名義,詐騙 Google、臉書得手一億美元

 


把傳統 BI 升級成超智慧 AI

一鍵產出 AI 視覺化洞察報表,強化你的商業決策力 >>>> 了解詳情  

點關鍵字看更多相關文章: