駭客犯罪 AI 化!在暗網裡,駭客可以用 AI 創造我們的「分身」

【為什麼我們要挑選這篇文章】平常我們能夠看到、搜尋到的網頁只是冰山一角,有更大比例的「暗網」是我們難以察覺的,必須用特殊軟體、授權,或對電腦做特殊設定才能存取,當中隱藏了許多資安風險。例如駭客可以竊取我們的個資,並用 AI 模擬我們的網路行為,在暗網創造虛擬的「我們」,用於非法目的,我們卻很難察覺。

如果你是 AI 開發者,該如何防範這種狀況?又需要具備怎樣的資安意識?(責任編輯:郭家宏)

今年 2 月,卡巴斯基實驗室的欺詐偵查小組搗毀了一個名為「創世紀(Genesis)」的暗網市場。該市場出售「數位身份(網路用戶的電子身份訊息)」,每條訊息起價 5 美元(約 150 元新台幣),最高可達 200 美元(約 6000 元新台幣)。

出價取決於所購買訊息的價值 — 例如,一個包含用戶銀行登錄訊息完整配置文件的數位遮罩,會比一個瀏覽器指紋的價格要高的多。

註:數位遮罩是指用戶設備指紋(設備 ID、硬體、操作系統、IP 位址、螢幕解析度、韌體版本、瀏覽器、瀏覽器外掛、時區、GPU 訊息、WebRTCIPs、Tcp/IP 指紋、cookie 等)及其個人行為屬性(在特定網上商店花費的時間、與興趣相關的行為、滑鼠/觸摸屏行為等)的唯一組合。

駭客們通常會用惡意軟體攻擊他人電腦,並且找到並複製這些個人數據以及其他個人身份識別訊息。

駭客盜取資訊後,用 AI 造一個虛擬的「你」

「在這一點上,駭客們已經能夠收集、管理和維護他們所侵入的用戶的大量數據,」一家基於機器學習的技術公司的產品經理 ImranMalek 說,「這意味著,如果你的筆記型電腦被駭客入侵,駭客的戰利品不一定是被入侵的電腦,而是你電腦上的所有數據,包括所有的身份識別訊息。」

有了這些訊息,透過特定瀏覽器和代理伺服器來模仿真實用戶的活動,再加上盜取的網路用戶的帳戶訊息,攻擊者就可以自由地以該用戶的名義進行新的、可信的交易,包括使用信用卡消費。

卡巴斯基實驗室(Kaspersky Lab)全球研究與分析團隊(Global Research & Analysis Team)高級安全研究員 SergeyLozhkin 表示:「我們看到了一個明顯的趨勢,全球範圍內的信用卡欺詐行為日益增多,儘管該行業在反欺詐措施方面投入了大量資金,但這種數位孿生(Digital Twins)很難被發現。」

用 AI 對抗 AI!人工智慧是打擊犯罪的武器

在打擊「暗網」犯罪的過程中,人工智慧正成為一把利器。

MIT 在今年 5 月 13 日的 一篇文章 指出,暗網犯罪有一些特點可以被追蹤。

消失速度極快是暗網犯罪的一大特徵,因為它們可能遭到其他駭客攻擊、安全部門突擊搜查,或者本身就是被設計成一個「退出騙局」—— 顧客為未完成的訂單付費後,該網站會故意關閉。

林肯實驗室(MIT Lincoln Laboratory)人工智慧技術與系統集團(Artificial Intelligence Technology and Systems Group)研究員 CharlieDagli 就表示:「暗網交易市場的彈出式特性,使得跟蹤參與者及其活動變得極其困難。」

賣家和買家在網路的多個層面(從表面到黑暗)以及在黑暗網絡論壇上進行聯繫。「這種網站之間的不斷切換,現在已經成為暗網市場運作方式的既定組成部分。」Dagli 說。針對這一情況,林肯實驗室正在開發新的人工智慧軟體工具來分析表面和暗網數據,他們訓練機器學習演算法來計算不同論壇上用戶之間的相似度,自動形成人物角色連結。

該演算法首先從一個論壇 a 的用戶那裡獲取數據,併為每個用戶創建一個著作權模型。然後,將論壇 b 上用戶的數據與論壇 a 上的所有用戶模型進行對比,該演算法尋找簡單的線索,比如在兩個論壇中一個叫「sergeygork」,另一個叫「sergeygorkin」,或者把「joenightmare」拼寫為「joeknight」等等。

演算法關注的另一個特性是內容相似性。

「因為很多內容都是複製貼上的,所以類似的話可能會來自同一個用戶,」Dagli 說。然後,系統查找用戶網路中的相似點,即用戶交叉的區域,以及用戶討論的主題。然後將配置文件、內容和網絡特性融合為一個輸出:兩個論壇中的兩個人物角色代表同一個現實生活中的人物的概率,這個配對正確率高達 95%。

這個項目在實際應用中取得了很好的效果,林肯實驗室參與開發了美國國防部高級研究計劃局(DARPA)的 Memex,曼哈頓地區檢察官 Cyrus Vance jr. 在一份提交給美國眾議院的書面證詞中稱,僅在 2017 年,他的辦公室就使用 Memex 工具搜索出超過 6000 名人口販賣嫌疑人。

但駭客也利用機器學習,進行 AI 的對抗性訓練

安全部門及相關公司利用機器學習打擊暗網犯罪的同時,駭客也開始利用機器學習進行對抗和犯罪。

比如上文中提及的「創世紀」,駭客利用「數位孿生」作為數位面具模仿真實的用戶,並選擇網路安全技術來通過欺詐檢測協議。「如果一邊是機器學習,那麼另一邊也是機器學習,」Malek 說,「現在,駭客和壞蛋們正在實施他們自己的方案,作為一種對抗性的機器學習訓練。」

另外,早在 2017 年的 DEFCON 大會上,安全公司 Endgame 也披露了 OpenAI 框架可以被用來定製惡意軟體,用以創建安全引擎無法檢測到的惡意軟體。其原理是自動改變一部分被認為是惡意的二進制文件,使其在防毒軟體中看起來是值得信賴的。

同樣還有網路犯罪自動化(Cyber crime Automation),有一種叫做 Hivenet 的智慧殭屍網路。他們就像寄生蟲一樣潛伏在人們的設備中,自動決定誰是下一個使用受害者資源的人。

而這類似於這種惡意欺詐和攻擊的軟件,多數是在暗網中發佈的。根據英國虛擬專用網絡(VPN)比較服務發佈的暗網價格指數,從用於攻擊知名品牌的即時釣魚網頁到密碼破解工具、WiFi 網路駭客程式,以及各種功能的駭客工具,有一些只需要 2 美元(約 60 新台幣)就可以買到,其中就包括一些用人工智慧生成的訂製惡意軟體。

開發 AI 時,需要評估負面效應

人工智慧作為一項技術本無善惡之分,但是如同網路,除了我們日常可以接觸到的表面,還存在一個「暗網」一樣,人工智慧也可能被心懷不軌的人利用,作為一個犯罪工具。

而對於 AI 從業者來說,也許以後在進行開發時,不僅需要考慮技術本身,還需要評估是否存在隨之而來的負面效應,以決定這項成果是否適合發佈或者開源。

原文 報導

(本文經 大數據文摘 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈暗网世界,黑客可能用 AI 再造了一个“你”〉 。圖片來源: 大數據文摘

更多關於人工智慧的消息

一個「值得信賴 AI」長什麼樣子?歐盟發佈 7 條人工智慧的道德準則
台灣將迎接 AI 黃金十年!台灣人工智慧學校:有四波產業 AI 化的企業轉型機會
Open AI 把人工智慧丟進荒地,看見了人類歷史演進的脈絡


用電大戶的能源新解方

工業用電大戶的電力需求與營運需求如何取得平衡?  立即報名 11/29 台達《智慧能源競爭力論壇 找到能源調度的最佳解

點關鍵字看更多相關文章: