【我們為什麼要挑選這篇文章】
不管是自駕車，還是你自己開的車，都不能避免意外的發生。問題來了，自駕車遇到緊急狀況，會基於什麼原則判斷，車子的下一步要怎麼做？什麼道德問題、倫理問題其實都不是工程師在意的範圍，唯一重要的是，要採取什麼行動才會將需要承擔的責任降到最低？跟我們平時開車，依照直覺會下意識地先踩剎車不同，將來自駕車可以透過工程師的設計和法律的專業判斷，做出對傷害最小的決定。
（責任編輯：謝秉芸）
說到自動駕駛汽車，就不得不提電車難題（Trolley Problem）這個倫理學領域最為知名的思想實驗，其大致內容為：一個瘋子把五個無辜的人綁在電車軌道上，一輛失控的電車朝他們駛來，並且片刻後就要碾壓到他們。幸運的是，你可以拉一個拉桿，讓電車開到另一條軌道上。然而問題在於，那個瘋子在另一個電車軌道上也綁了一個人。考慮以上狀況，你是否應拉桿？
在自動駕駛時代即將來臨時，這個倫理學實驗有了新的意義。如果遇到類似的難題，自動駕駛汽車是選擇保護乘客，義無反顧撞向五名路人呢？還是保護路人犧牲乘客？
顯然，這個決定不應該由自動駕駛汽車來做。如果從理論上來講，開發算法的軟體工程師在這裡將扮演上帝。
假設我們將決定權完全交給機器，那麼這就成了一部反烏托邦小說，而對機器的恐懼是 75% 美國司機懼怕自動駕駛汽車的主要原因。
為了解決這一倫理困境，美國國家公路交通安全管理局（NHTSA）甚至建議為開發自動駕駛技術的公司專門推出「倫理測試」系統。
不過好消息是，NHTSA 的想法可能多此一舉，在《西北大學法律評論》上的一篇論文中，斯坦福研究人員 Bryan Casey 認為電車難題根本無關緊要。
他表示這個問題已經得到了完美解決，不過解決它的不是倫理專家也不是工程師，而是律師。「相比對與錯的深奧問題，可預測的法律責任問題才是自動駕駛廠商最為關心的。」Casey 寫道。這也就意味著，律師和法律制定者將終結這一難題。
解決電車難題
「電車難題其實早已解決，這裡用到的方法是將法律責任與消費者心理相結合。」Casey 說道。「追求利潤最大化的企業會從各種選項中挑出最優的那一個」，換句話說，工程師們可不把倫理學家的話當金科玉律，他們更看重技術的限制、侵權行為法和消費者對風險的承受力。
Casey 舉了特斯拉的例子：搭載了 AutoPilot 功能的特斯拉電動車能在高速上實現自動駕駛，特斯拉工程師可以為了安全限制車輛 Autopilot 模式下的速度，也可以直接提速，更快的將用戶送往目的地。不過，特斯拉的工程師並沒有執行這兩個選項，他們選擇遵守高速路上的限速，將特斯拉的責任風險降到最低。
「工程師們會召集全世界最偉大的哲學家們共聚一堂得出什麼經典論述嗎？顯然不會。」Casey 說道。「他們才不會為道德或道德的外部因素而煩惱。相反，工程師們更看重法律，看重高速上的限速，畢竟遵紀守法沒什麼壞處。」
也就是說，如果政策制定者和保險公司決定將交通事故的責任全部推給自動駕駛汽車，那麼製造商肯定會確保每一個細節不會出錯，以最大限度的降低風險。
同時，公眾在這個問題上也有重要發言權。「真正的機器道德設計師不是科技巨頭的工程團隊，而是普通市民。」Casey 寫道。
法律制定者和監管部門會呼應公眾的要求，即使他們選擇視而不見，汽車廠商也會選擇順應民意。
據雷鋒網(公眾號：雷鋒網)了解，今年 1 月，特斯拉升級了 AutoPilot——允許車輛在 AutoPilot 模式下超過道路限速 5 英里/小時。值得注意的是，給出這樣的功能升級完全是特斯拉對用戶需求的反饋。
自動駕駛汽車的倫理
不過，電車難題之類的問題還是會讓公眾重新看待自動駕駛汽車。「當你試著理解什麼才是人們珍視的，就很容易消除其中的細微差別。」交通研究專家 Noah Goodall 說道。電車難題這個思想實驗可以提供一個廣泛的概述，讓我們認識到人們有什麼問題需要解決，他們對自動駕駛汽車設定了什麼指導方針。
不過，像電車難題這樣的邊緣案件可能也會讓公眾陷入迷惑。Goodall 表示：「電車難題很不現實。」
自動駕駛軟體新創公司 nuTonomy CEO Karl Iagnemma 表示：「有時候，車輛無法對周圍的環境做出精確測定。一般來說，自動駕駛汽車處理的訊息都相當粗糙。基於這樣的數據，恐怕自動駕駛汽車根本無法做出救乘客還是救行人的判斷。」
要想讓大眾真正信任自動駕駛汽車，就得「讓他們提前了解這些車輛會做什麼。」Goodall 說。「自動駕駛可以讓人們免於車禍，拯救大量生命，但廠商需要證明它確實在這些車輛上花了心思。」
眼下，每年都會有 3.5 萬人在美國的公路上殞命，全世界因交通事故死亡的人每年更是高達 125 萬。擔心類似電車難題的倫理困境並不會拯救生命，反而會傷了自動駕駛技術的銳氣。
因此，除了招聘更多的天才工程師，這些公司還應該多將聰明的律師納入麾下，畢竟未來他們在自動駕駛行業也將掌握不小的話語權。
（本文經合作夥伴雷鋒網授權轉載，並同意 TechOrange 編寫導讀與修訂標題，原文標題為〈倫理學家靠邊站，律師才是解決自動駕駛「電車難題」的定海神針〉。）
延伸閱讀
【自駕車才是未來】做 3 年股價下滑 40％ 的福特 CEO 被撤換下台，繼任者為自駕車開發主管
【自動駕駛世界排名】傳統車廠福特、通用居首，Tesla、Uber 排名爛到哭暈在廁所
福特五大面向發展未來智慧移動計畫，Hold 住車聯網商機
馬路三寶即將走入歷史？Google 將與福特合作開發無人自駕車
