【我們為什麼挑選這篇文章】覺得這件事蠻好笑但又蠻可怕的,自動駕駛雖然會很方便,但還存在著容易被干擾的問題,若這些問題無法解決,無人駕駛就還不是個成熟的方案。(責任編輯:林子鈞)

街上的交通標誌未來會成為自動駕駛汽車通行時的領航員,不過一個研發團隊近日發現,如果對這些交通標誌稍加改動,可能就會讓自動駕駛汽車徹底懵掉,其機器學習系統會對標誌進行錯誤的分類並做出錯誤決定,將乘客的生命置於危險之中。

如果有人惡作劇,用新的貼圖覆蓋整個交通標誌或在上面黏貼一些小的貼紙,就能成功騙過自動駕駛汽車,讓它們做出錯誤的判斷。如果交通標誌被整個覆蓋,恐怕車上的乘客也根本無法分辨。

遇到了一個「假」標誌

舉例來說,題圖中的 4 種標誌是該團隊設計出來專門「欺騙」自動駕駛汽車的。

雷鋒網發現,在左邊第一張圖的場景中(標誌上寫有「love」和「hate」的),自動駕駛汽車會將停止標誌認成「限速 72 公里/小時」),而且一騙一個准。

左起第二和第三張圖中,貼紙和塗鴉也能騙過機器學習系統,不過欺騙的成功率僅為 67%。

第四張圖中專門印刷出來的假路標也會讓機器學習系統變傻,在它眼中「右轉」成了停止標誌(欺騙成功率 100%)。

反愚弄措施也不少

隨著自動駕駛逐漸普及,保持路標清潔將會成為智慧城市管理者的強制責任。

研究人員也給管理者們出了招,未來的路牌可以採用防貼紙材料製作。除此之外,汽車製造商也要讓機器學習系統掌握更多的語境資訊,畢竟在繁忙的州際公路上是不會出現停止標誌的。

雷鋒網發現,這已經不是第一個有關自動駕駛汽車被黑或者被干擾的研究了。2015 年 9 月時,Security Innovation 的安全研究人員 Jonathan Petit 就聲稱他能輕鬆愚弄任何自動駕駛汽車上的 LiDAR,導致車輛減速或急刹車,而所用的干擾工具只不過是能發射雷射脈衝的自製小設備而已。


延伸閱讀

矽谷投資者預測:共享經濟業者結合無人車技術,才是傳統車廠要擔憂的未來
想學做無人車的工程師注意!Google 工程師教你從零開始學「無人駕駛技術」
只花兩年就趕上 Google!史丹佛 AI 實驗室成員集體創業,要用機器學習稱霸無人車界

 (本文經合作夥伴 雷鋒網 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈“黑”掉自動駕駛汽車,只要給路標塗個大花臉〉。)