讓 AI 決策「歪樓」很容易,捷克新創用機器學習反擊,奪下 8 千萬台幣融資

【為什麼我們要編譯這篇文章】AI 解決方案全球滿地開花,利用高速精準運算的特性,能有效創造企業營收與營運效率。但 AI 好用卻也容易受騙,只要在訓練資料中參雜一些「雜質」或進入後台調整一些參數,就能有迅速破壞企業決策。

一家捷克新創 Resistant AI 開發機器學習產品,將幫助 AI 企業找出 AI 時代的資安新解方。(責任編輯:陳伯安)

隨著金融科技發展進步,許多交易、運算工作都交由 AI 系統來進行自動決策,也因全球走入數位化時代,預防網路駭客惡意攻擊的事前資安(Cybersecurity)準備顯得格外重要。 需要警惕的是,駭客也與時俱進,開發針對 AI、機器學習為攻擊目標的新時代網攻手段,致使企業面臨機密竊取、營運停擺的風險。

捷克ㄧ家資安新創 Resistant AI 致力於開發機器學習技術,以部署至 AI 決策系統上,以抵禦對抗式機器學習(Adversarial Machine Learning)、進階詐騙、目標性操弄等攻擊方式。據 TechCrunch 報導 ,Resistant AI 已獲得 275 萬美元種子輪融資,約 8,250 萬新台幣。

針對 AI 模組的資安防護,成高潛力市場

Resistant AI 於 4 月底進行種子輪融資,獲風險投資公司 Index Ventures 及 Credo Venture 領投,成功籌集 275 萬美元資金。Index Venture 的 CEO Jan Hammer 看好 Resistant AI 的潛力,他認為自動化、效率及可靠性是金融革新最根本的基石,隨著金融決策逐漸仰賴機器學習運作時,需要受到保護,而且這些攻擊不將只是在金融領域,可能也會快速擴及到其他領域上。

Hammer 透露,因疫情發展催使,未來將會有許多需要線上行為,有心人士已準備好利用這些漏洞進行犯罪,他認為 Resistant AI 解決方案的需求絕對會日益增長。

Resistant AI 的創辦人兼 CEO Martin Rehak 表示,許多企業開始學習如何部署 AI 來幫助生產及運作,相對同時許多駭客及網路罪犯也看到這樣的發展,也正積極尋找如何有規模的獲取利益及盜取金錢,而 Resistant AI 的工作就是要幫助企業保護他們的 AI 及機器學習模組。

Resistant AI 怎麼揪出欺騙 AI 的網攻?

Resistant AI 目前提供兩項主要產品,第一項為 Resistant Documents,可以透過機器學習系統標記、拒絕自動處理過程中出現的惡意或可疑的文檔,駭客有可能會透過不停偽造或更換銀行對帳單、薪資單、發票、購買訂單、KYC 文件(Know Your Customer)的名稱來欺騙演算法驅動的認證系統,企圖開啟銀行帳戶或是批准借貸,Resistant Documents 可以幫助跟拒絕惡意或可疑的來源。

另一項產品為 Resistant Transactions,則是透過 AI 偵測有問題的交易。多數 AI 系統的攻擊,需要透過廣泛的互動才會被發現有弱點,不過 Resistant Transactions 的獨特系統可在所有客戶要求如付款、轉帳或是申請信貸等需求時進行統計性的檢查,來辨認或阻止想要偷取系統模組內資訊、甚至是利用系統既有偏誤來誘導系統做出錯誤決定的攻擊。

創辦人曾開發 AI 資安解方,獲 Cisco 收購

其實 Resistant AI 的新創團隊並非新手,Rehak 及他的團隊曾於 2006 創立資安公司 Cognitive Security,專門提供 AI 資安解決方案對抗網路攻擊,而該公司於 2013 年被網路設備大廠思科(Cisco)收購,成功幫助思科強化資案策略的執行。

Rehak 在網路資安領域工作超過 12 年,他表示網路駭客對於 AI 系統漏洞的破解技術已經越來成熟,這也讓啟發他跟他的團隊創立現在的 Resistant AI 來提供解決方案。

Rehak 透露,目前他們的首要目標客戶是金融企業、金融科技新創,或是在金融交易過程中採用自動化程序的公司,金融系統是他們當前的重點,而跟機器學習相關的攻擊涉及到自動化流程、電子商務、社群媒體中的趨勢偵測演算法等,這次種子投資將幫助 Resistant AI 擴大規模,透過強化產品特色與功能,來達到市場對於金融資安領域的需求。

參考資料來源:

《VentureBeat》:〈Resistant AI raises $2.75 million to protect algorithms from adversarial attacks

《Techchruch》:〈Index and Credo lead a $2.75M seed in anti-fraud tech, Resistant AI

(本文提供合作夥伴轉載,首圖來源:Pxfuel, CC Licensed。)

你可能感興趣

◊ 【科技救經濟】IBM 執行長 Arvind Krishna 發表 3 大「雲服務」進展及全新 AI 服務
【特效全開】南韓醫療新創採用 NVIDIA 做 AI 產品,看 X 光片速度提高 20 倍!
◊ 【死神的旋律】MIT 科學家用 AI,將新冠病毒的蛋白質結構轉成音樂
◊ 【什麼通靈之術都放馬過來】印度工程師學一年深度學習,秒開發火影結印 AI 辨識系統!


科技報橘 LinkedIn 上線!

最新科技產業動態、技術新突破、專業職能技巧提升 ....... 鎖定 TO  LinkedIn 專業品牌,提升職能與產業 Know-how,躋身產業菁英之列 https://www.linkedin.com/showcase/techorange

點關鍵字看更多相關文章: