Mobileye 提出無人車兩大鐵律:這樣還出事,絕對是人類的錯!

【我們為什麼挑選這篇文章】無人車蓬勃發展,從自用客車到小巴,結合人工智慧的交通工具將逐漸改變我們的生活,但無人車的事故頻傳,要民眾將生命安全全然交付於無人車,還有一段漫漫長路要走。
這時,Mobileye 提出了一套希望讓大家都信服的 RSS 理論。(責任編輯:王郁棋)

機器人不得傷害人類,或坐視人類受到傷害;
除非違背第一法則,否則機器人必須服從人類命令;
除非違背第一或第二法則,否則機器人必須保護自己。

所有突破界線新技術的誕生,都不可避免的伴隨著道德理論和關於人類存亡的討論。

過去是機器人,今天輪到無人車了

至今我們已經對機器人做了足夠多的討論,業界也有像馬斯克和祖克柏這樣對人工智慧堅持不同看法的大佬,至少當強人工智能到來之時,人類不會是全無準備的羔羊。而比起機器人,無人車無疑是命運多舛的。從上路開始,不斷發生的重大負面新聞就一直在刺激人們的神經。

無人車就像個剛學會跑步,就不得不接受眾人審判的孩子。

今年三月在美國亞利桑那州坦佩市,面對一名違反交規橫穿馬路的女性,Uber 公司旗下的無人車選擇了不減速直接碾過;同月, 特斯拉 Model X 在輔助自動駕駛(Autopilot)模式下撞上隔離帶,致車主死亡;上周,其它駕駛員的錯誤導致一輛 Waymo 自動駕駛車捲入車禍。

TO 延伸:
全球首例!Uber 自駕車撞死 49 歲婦人,全美測試緊急喊卡

這些事故的發生,究竟是誰的責任很重要,但在當下的輿論環境下沒人關心。儘管經過近兩個月的調查,警方認為安全員和違規過馬路的行人亦負有責任,但 Uber 無人車這個「第一起自動駕駛汽車殺人事件」的帽子,一時間是肯定摘不掉了。前幾天 Waymo 車禍發生時,很多人在了解現場情況之前,下意識地就覺得是無人車的錯。

無人駕駛技術的成熟只是時間問題,然而想讓公眾信任無人車,和無人車分享道路,甚至是把生命安全交給無人車,仍然是個棘手的難題。無人車的每一次事故,哪怕只是被捲入車禍,都會引起公眾的懷疑和恐慌。長期來說, 這種不信任足以摧毀這個新興的行業。

還好,已經有人在考慮這個問題,並且給出了一份很有說服力的答案卷。

英特爾旗下,汽車圖像技術老牌公司 Mobileye ,在今年 3 月發表了一篇名為《安全、可擴展自動駕駛汽車的正式模型》的論文。在這篇論文里,該公司提出了一個名叫 RSS(Responsibility-Sensitive Safety)的理論模型。

RSS 理論主張在事故發生之前規避事故,而不是等事故發生後再進入複雜的定責程序。

英特爾和 Mobileye 希望,這個理論像自動駕駛界的「阿西莫夫機器人三定律」一樣,成為讓業界普遍接受、讓公眾感到放心的無人車守則。

Mobileye 認為,人類駕駛員是一個很複雜,在計算機看來「非標準」的群體 :有激進的司機,也有保守的司機,想準確預測個體司機的意圖很難。人類在駕駛中無時無刻不在進行博弈,而無人車想要與人類駕駛員共存,就不得不參與這種博弈。

Mobileye 空拍的真實路況,擠不進去的白車心裡苦

以汽車並道為例,在並道時發生刮蹭,前車會說後車進得太急,後車會說前車司機跑神反應太慢,到底誰說的是真誰說的是假,還得交警和保險公司一起來決定。無人車又沒有嘴,最好的辦法就是在保證絕對安全的前提下再行動。

在英特爾投資全球峰會上,矽星人採訪了 Mobileye CTO 兼聯合創始人阿姆農·沙書亞(Amnon Shashua)。當談及車禍定責問題時沙書亞語出驚人:「在 RSS 的框架下,如果無人車出了事故,那一定是人的責任。」

為了做到這點,Mobileye 也提出了無人車的兩條定律:

第一,無人駕駛車永不主動造成事故;
第二,無人駕駛車對其他司機的不當行為有正確反應,不擴大事故。

這兩條鐵律應當如同不能傷害人類、不能坐視人類被傷害的機器人定律一樣,高懸在每一輛無人車做出的每一個決策之上。

沙書亞指出,RSS 的數學模型可以解決三個問題:

  1. 什麼是危險的情況?
  2. 什麼是正確的反應?
  3. 事故的責任方是誰?

首先,通過攝像頭、雷達、和鐳射雷達的感測融合,無人車能同時檢測周圍車輛、行人以及可駕駛路徑,同時計算距離,因此能更好地判斷路況。

然後,在採取行動時,RSS 則會保證在擁有路權、前方和兩側都滿足安全距離要求、且沒有視覺死角時才變道、併線、轉彎。

RSS 四原則

利用數據驅動的機器學習算法,Mobileye 已經在 RSS 模型下進行了 10 萬次路測駕駛模擬實驗,系統性能達到每秒 10 hz 的頻率響應,沒有發生任何事故。

在提到 RSS 模型的必要性時,沙書亞告訴矽星人,「技術的成熟只是第一步。RSS 做到的事,就是把人們的駕駛常識總結歸納為數學模型,並且教會每一輛無人車。」

然而,如果無人車過度敏感,則會走向另一個低效率的極端。乘客宛如一個被保護得很好但行駛緩慢、不斷經歷加速減速過程的雞蛋,同樣體驗不佳。這個問題又要怎麼解決?

沙書亞說:「在無人車產業中,沒有大概能行這回事,為了保證用戶和其他車輛的安全,無人車要做到的是一定能行。」

統計學中有假陰性和假陽性的概念,用在今天討論的話題上,就是「該剎車沒剎車」,和「不該剎車但是剎車了」。

假陰性是很好測試的,因為該剎車的時候沒剎車,車絕對會撞,只需要設置路障,統計無人車的通過率就可以了。而檢測假陽性相對較難。你能想像你的無人車,路上遇見個礦泉水瓶都要抖個幾下嗎?沒人願意坐這樣的車。 經過 RSS 系統的訓練,英特爾已經收集了兩億公里的實際行駛數據,將假陽性出現機率降低到了萬分之 2.5 ,也即每五萬公里只出現一次。

「一旦 RSS 被無人車產業接受,事故定責將變得更容易。如果沒有這個模型,無人車就沒法真正上路。看看 Waymo 的事故畫面,撞來的小車的確無處閃避,但 Waymo 還是承擔了責難。因此我們急需一個模型來劃分責任、定義危險行為,能被監管部門接受,能向公眾明確解釋事故原因,而不是呈現給大家一個似是而非的黑箱。

如果將人工智慧比做蒸汽,將無人車比做火車,毫無疑問,如今正在發生的是一場如蒸汽火車第一次開動一般翻天覆地的交通革命。

沙書亞說,「無人車替代其他汽車的過程是漫長的循序漸進的,在這個過程中必須優先考慮無人車與人類司機共存的情況。等到無人車達到了一定數量,我們或許可以讓無人車之間實現溝通,但那就是另一個故事了。」

另一個故事裡,塞車不存在了,紅綠燈也消失了,保險公司失業了,人只要坐在後座,看無人車表演就夠了。

(本文經合作夥伴 品玩 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈 Mobileye 提出“無人駕駛三原則”:出了事故一定是人的責任

無人車肇事,責任歸誰?

一場無人車的道德測試:前方同時有男人和女人,你會選擇撞死誰?
Uber 撞死人調查結果:自駕車有看到路人,但卻「自己決定」不閃開?
無人車出車禍,責任歸誰?Intel、Mobileye 提出一個「數學公式」搞定問題


科技報橘 LinkedIn 上線!

最新科技產業動態、技術新突破、專業職能技巧提升 ....... 鎖定 TO  LinkedIn 專業品牌,提升職能與產業 Know-how,躋身產業菁英之列 https://www.linkedin.com/showcase/techorange

點關鍵字看更多相關文章: