當無人車遇上車禍:Benz 決定要保乘客撞行人,你的選擇是?

trooly

【我們為什麼挑選這篇文章】當無人車遭遇車禍,要保障誰的安全?無人車有辦法判斷這麼複雜的情況嗎?雖然無人車的其中一個宗旨就在於避免車禍,但是當車禍真的發生了,目前無人車並沒有那麼精密到可以計算出撞哪裡才能完全避免傷亡。在這樣的前提之下,Benz 首先承認,自家的無人車會優先保障乘客安全。在普遍缺乏無人車法律的現在,「無人車的倫理問題」值得好好思考一下。不過也不用太煩惱,畢竟這跟「電車難題」一樣,最終就是流於無限上綱的詭辯。

(責任編輯:Matthew Chen)

無人駕駛的普及,可以跨越技術、公共基礎設施乃至歷史的藩籬,但卻無論如何都不能繞過人類世界為自己設立的道德困境。

「一旦發生車禍,救坐在車裡的乘客,還是車外的行人」?

這一問題引發了幾乎與哈佛公開課《正義》一樣風靡全球的討論,但汽車製造商卻一直對此諱莫如深。

然而,Mercedes-Benz 率先在該議題上做出了選擇:將 首先保證司機(及乘客)的安全,然後再是行人 。這個結論已經在最近得到了一位公司經理人的確認。因為他們相信一點:無論人工智能機器人在生與死面前做出怎樣的抉擇,先救有把握救的人才是最保險的。換言之,車內與車外,機器人總是會救那個可控率更高的一方。

Mercedes 集團分管輔助駕駛系統的高級經理 Christoph von Hugo 在上週接受汽車雜誌《Car and Driver》專訪時曾表示:

「你可以犧牲這輛無人車,完全可以。但是在危險發生的時候,你也許不知道究竟發生了什麼,車外的情況到底有多複雜。因此,你(無人車)需要救那些你有能力去救的人。如果你知道你至少可以救一個人,那麼應該先救車裡的那個。」

然而,Hugo 卻在做出選擇後話鋒一轉,又與之前所有汽車製造商的口徑達成一致——整個討論可能最終會變得毫無意義。除了計算機駕駛的汽車有能力通過多種方式來應對人類司機無法解決的緊急狀況外,無人車最重要的工作就是首先確保乘客不會遭遇車禍。

這種究竟「拯救誰」的道德問題其實並沒有必要深入探討,因為我們工程師 99% 的工作都是在為了避免這種狀況的發生。我們最最重要的工作是為了避免汽車發生車禍,沒有車禍,就不會有進退兩難的選擇問題。後者其實只是一個二級問題,僅僅在最壞的狀況(車禍)下出現。

要撞人?還是撞樹?

現在,讓我們來做一些有意思的假設:或許無人車幫助乘客避免車禍的概率高達 99%,但如果這 1% 的意外出現,那就假設在這 1% 的情形下,行駛中的無人駕駛汽車將不可避免與正前方的行人發生撞擊。這時,按照 Benz 無人車的做法——選擇保護車中的乘客。那麼,它是選擇與行人相撞還是與旁邊的一棵樹相撞呢?

從普遍情況來看,比起與一棵樹(硬體)相撞,選擇與行人(軟體)相撞更容易保證車內乘客的安全,那麼我們就應該選擇撞擊行人?

但如果讓人類司機來判斷,大多數人(沒有指全部人)在下意識中看到前方的人或生物,都會選擇剎車或轉動方向盤向一側駛去 …… 這是人類的選擇(譬如之前就有司機甚至為了避開前方的動物而導致死亡)。

此外,如果前方兩側分別是一個人和一群人,無人駕駛汽車又該如何選擇?(《正義》中的問題)再假設這是一個富人和一群窮人,或者是一名 20 歲的年輕人與 5 位 80 歲高齡的老人,又該怎樣選擇 ……

支持無人車上路的工程師們則強調,車禍根本原因並不在於車,而在於人。在人類世界中,0 車禍基本不可能,大多數是由違法交通法規導致;無人駕駛的世界也同樣如此:無人車按照計算程序恪守法規的前提下,導致車禍的最大可能性還是來源於行人甚至人類駕駛員的違法行為。

但如果站在 Benz 的客戶角度想一下,Benz 汽車的做法顯然沒有什麼問題—— 我花自己的錢買了 Benz 的無人車,為啥要救別人? 難道人人都必須是利他主義者?譬如 8 月份《科學》雜誌上的一篇文章就指出,遵循道德準則的車輛也一樣不受歡迎:一項投票顯示,絕大多數人並不支持「自我犧牲」,因此他們不會購買自動駕駛汽車。

由此看來,如果僅僅是迎合客戶,Benz 的選擇十分正確。

「避免人員傷亡」為第一守則

雖然現在我們還不清楚 Benz 目前的選擇是否會違反未來的無人汽車法規,但德國卻期望汽車製造商們遵循之前出台的三條法規:

1、 如果發生車禍,避免人員傷亡將優先於財產損失;

2、 無人車不可以根據人的年齡及其他屬性(例如胖瘦等等)劃分類別

3、 無論發生何種意外,汽車製造商負有責任。

由於這些法規已經足夠詳實,因此德國政府將不得不根據它們來判斷汽車廠商們是否應該將司機作為優先級來考慮。但無論如何,由汽車廠商們引發的第二場「無人車倫理風暴」已經到來。

不管是否被法律允許,Benz 對於無人駕駛的未來顯然有自己的大計劃。除了小型汽車,公司開發的無人駕駛巴士 Future Bus 也在今年 7 月在阿姆斯特丹完成了道路測試,成功完成了約 14 英里(20 公里)的行駛路程,創下了新測試記錄。

Benz 表示,Future Bus 會在未來十年進入量產階段,希望能藉此改善目前城市路面公共交通系統運營的效率與安全,同時減輕司機的工作負荷。

最後,如果你還在糾結這個關於無人車的道德議題,可以做一下 MIT 科技評論的一項小測試 :該雜誌發起了一個「道德機器」的線上活動,為網友提供了 13 種場景,模擬了當無人車突然剎車失靈時的情景,測試者可以根據自己的想法選擇必須犧牲的人還是動物,瘦子還是胖子、富人還是窮人 ……

這不僅僅是一項關於無人車的道德測試,也或許是你在現實中的選擇。

(本文經合作夥伴 36kr 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為:《無人車遭遇車禍,奔馳要捨行人保乘客,你會如何選擇?》)

——

延伸閱讀

【無人車車禍】有些事情強如 Google 也做不到,像是讓無人車閃避路上的三寶
台灣成為亞洲新創中心的必要條件:改變政府政策、認同台灣文化

點關鍵字看更多相關文章: