自動(dòng)駕駛企業(yè)也應(yīng)多招聰明的律師

說(shuō)到自動(dòng)駕駛汽車，就不得不提電車難題（Trolley Problem）這個(gè)倫理學(xué)領(lǐng)域最為知名的思想實(shí)驗(yàn)，其大致內(nèi)容為：一個(gè)瘋子把五個(gè)無(wú)辜的人綁在電車軌道上，一輛失控的電車朝他們駛來(lái)，并且片刻后就要碾壓到他們。幸運(yùn)的是，你可以拉一個(gè)拉桿，讓電車開到另一條軌道上。然而問(wèn)題在于，那個(gè)瘋子在另一個(gè)電車軌道上也綁了一個(gè)人。考慮以上狀況，你是否應(yīng)拉桿？

在自動(dòng)駕駛時(shí)代即將來(lái)臨時(shí)，這個(gè)倫理學(xué)實(shí)驗(yàn)有了新的意義。如果遇到類似的難題，自動(dòng)駕駛汽車是選擇保護(hù)乘客，義無(wú)反顧撞向五名路人呢？還是保護(hù)路人犧牲乘客？

顯然，這個(gè)決定不應(yīng)該由自動(dòng)駕駛汽車來(lái)做。如果從理論上來(lái)講，開發(fā)算法的軟件工程師在這里將扮演上帝。

假設(shè)我們將決定權(quán)完全交給機(jī)器，那么這就成了一部反烏托邦小說(shuō)，而對(duì)機(jī)器的恐懼是 75% 美國(guó)司機(jī)懼怕自動(dòng)駕駛汽車的主要原因。

為了解決這一倫理困境，美國(guó)國(guó)家公路交通安全管理局（NHTSA）甚至建議為開發(fā)自動(dòng)駕駛技術(shù)的公司專門推出“倫理測(cè)試”系統(tǒng)。

不過(guò)好消息是，NHTSA 的想法可能多此一舉，在《西北大學(xué)法律評(píng)論》上的一篇論文中，斯坦福研究人員 Bryan Casey 認(rèn)為電車難題根本無(wú)關(guān)緊要。

他表示這個(gè)問(wèn)題已經(jīng)得到了完美解決，不過(guò)解決它的不是倫理專家也不是工程師，而是律師?！跋啾葘?duì)與錯(cuò)的深?yuàn)W問(wèn)題，可預(yù)測(cè)的法律責(zé)任問(wèn)題才是自動(dòng)駕駛廠商最為關(guān)心的。”Casey 寫道。這也就意味著，律師和法律制定者將終結(jié)這一難題。

解決電車難題

“電車難題其實(shí)早已解決，這里用到的方法是將法律責(zé)任與消費(fèi)者心理相結(jié)合?！盋asey 說(shuō)道。“追求利潤(rùn)最大化的企業(yè)會(huì)從各種選項(xiàng)中挑出最優(yōu)的那一個(gè)”，換句話說(shuō)，工程師們可不把倫理學(xué)家的話當(dāng)金科玉律，他們更看重技術(shù)的限制、侵權(quán)行為法和消費(fèi)者對(duì)風(fēng)險(xiǎn)的承受力。

Casey 舉了特斯拉的例子：搭載了 AutoPilot 功能的特斯拉電動(dòng)車能在高速上實(shí)現(xiàn)自動(dòng)駕駛，特斯拉工程師可以為了安全限制車輛 Autopilot 模式下的速度，也可以直接提速，更快的將用戶送往目的地。不過(guò)，特斯拉的工程師并沒(méi)有執(zhí)行這兩個(gè)選項(xiàng)，他們選擇遵守高速路上的限速，將特斯拉的責(zé)任風(fēng)險(xiǎn)降到最低。

“工程師們會(huì)召集全世界最偉大的哲學(xué)家們共聚一堂得出什么經(jīng)典論述嗎？顯然不會(huì)?！盋asey 說(shuō)道。“他們才不會(huì)為道德或道德的外部因素而煩惱。相反，工程師們更看重法律，看重高速上的限速，畢竟遵紀(jì)守法沒(méi)什么壞處?！?/p>

也就是說(shuō)，如果政策制定者和保險(xiǎn)公司決定將交通事故的責(zé)任全部推給自動(dòng)駕駛汽車，那么制造商肯定會(huì)確保每一個(gè)細(xì)節(jié)不會(huì)出錯(cuò)，以最大限度的降低風(fēng)險(xiǎn)。

同時(shí)，公眾在這個(gè)問(wèn)題上也有重要發(fā)言權(quán)?！罢嬲臋C(jī)器道德設(shè)計(jì)師不是科技巨頭的工程團(tuán)隊(duì)，而是普通市民?！盋asey 寫道。

法律制定者和監(jiān)管部門會(huì)呼應(yīng)公眾的要求，即使他們選擇視而不見，汽車廠商也會(huì)選擇順應(yīng)民意。

據(jù)我們了解，今年 1 月，特斯拉升級(jí)了 AutoPilot——允許車輛在 AutoPilot 模式下超過(guò)道路限速 5 英里/小時(shí)。值得注意的是，給出這樣的功能升級(jí)完全是特斯拉對(duì)用戶需求的反饋。

自動(dòng)駕駛汽車的倫理

不過(guò)，電車難題之類的問(wèn)題還是會(huì)讓公眾重新看待自動(dòng)駕駛汽車。“當(dāng)你試著理解什么才是人們珍視的，就很容易消除其中的細(xì)微差別。”交通研究專家 Noah Goodall 說(shuō)道。電車難題這個(gè)思想實(shí)驗(yàn)可以提供一個(gè)廣泛的概述，讓我們認(rèn)識(shí)到人們有什么問(wèn)題需要解決，他們對(duì)自動(dòng)駕駛汽車設(shè)定了什么指導(dǎo)方針。

不過(guò)，像電車難題這樣的邊緣案件可能也會(huì)讓公眾陷入迷惑。Goodall 表示：“電車難題很不現(xiàn)實(shí)。”

自動(dòng)駕駛軟件新創(chuàng)公司 nuTonomy CEO Karl Iagnemma 表示：“有時(shí)候，車輛無(wú)法對(duì)周圍的環(huán)境做出精確測(cè)定。一般來(lái)說(shuō)，自動(dòng)駕駛汽車處理的信息都相當(dāng)粗糙?；谶@樣的數(shù)據(jù)，恐怕自動(dòng)駕駛汽車根本無(wú)法做出救乘客還是救行人的判斷?！?/p>

要想讓大眾真正信任自動(dòng)駕駛汽車，就得“讓他們提前了解這些車輛會(huì)做什么?！盙oodall 說(shuō)?！白詣?dòng)駕駛可以讓人們免于車禍，拯救大量生命，但廠商需要證明它確實(shí)在這些車輛上花了心思。”

眼下，每年都會(huì)有 3.5 萬(wàn)人在美國(guó)的公路上殞命，全世界因交通事故死亡的人每年更是高達(dá) 125 萬(wàn)。擔(dān)心類似電車難題的倫理困境并不會(huì)拯救生命，反而會(huì)傷了自動(dòng)駕駛技術(shù)的銳氣。

因此，除了招聘更多的天才工程師，這些公司還應(yīng)該多將聰明的律師納入麾下，畢竟未來(lái)他們?cè)谧詣?dòng)駕駛行業(yè)也將掌握不小的話語(yǔ)權(quán)。