試想這樣一個場景:當(dāng)你駕駛一輛汽車在被濃霧籠罩的郊區(qū)道路上行駛時,突然發(fā)現(xiàn)前方道路上有一群人在橫穿馬路,此時旁邊車道上也有一個人在穿越馬路。假設(shè)當(dāng)時已經(jīng)來不及剎車,只能選擇撞向一群人還是一個人,此時你會如何抉擇?關(guān)于這個問題,記者詢問了身邊的朋友,幾乎100%選擇了撞向橫穿馬路的一個人,僅有一人選擇撞向未知的無人區(qū)域。人類駕駛者如此選擇,在無人駕駛時代,汽車又將作出怎樣的抉擇呢?根據(jù)當(dāng)前無人駕駛汽車的發(fā)展水平,這個問題或許有些荒謬,但確實有機構(gòu)已經(jīng)開始展開研究。
“電車難題”
有外媒報道稱,日前,德國奧斯納布呂克大學(xué)(Osnabruck)認(rèn)知科學(xué)院的研究人員發(fā)明了一組應(yīng)用于無人駕駛汽車的數(shù)學(xué)模型。通過電腦控制,利用VR技術(shù),再現(xiàn)各種聲音、圖像,將生物按照其價值進行排序,在事故發(fā)生之際,無人駕駛汽車自動做出取舍,最大限度地保證人員的生命安全。
根據(jù)報道,奧斯納布呂克大學(xué)認(rèn)知科學(xué)院的研究團隊通過沉浸式虛擬現(xiàn)實,在模擬的交通場景中研究人類的行為與道德判斷。其模擬的場景就是讓參與者在郊外駕駛車輛,當(dāng)碰到?jīng)]有預(yù)期且無可避免的兩難處境時,他們必須決定在無生命的物體、動物和人類之間,哪個可以幸免。測試結(jié)束后,該研究團隊發(fā)現(xiàn),人類在困境中的行為可以透過一個相當(dāng)簡單、僅以生命為基礎(chǔ)的模型來建模。這個模型可以套用在每一個人、動物或無生命的物體之上,這意味著人類的道德行為可以被機器的演算法描述。
按照生命價值進行取舍,這就如同1967年哲學(xué)家菲利帕·福特(Philippa Foot)在其論文《墮胎問題和教條雙重影響》中提出的“電車難題”:一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來,并且片刻后就要碾壓到他們。幸運的是,你可以拉一個拉桿,讓電車開到另一條軌道上。然而問題在于,那個瘋子在另一個電車軌道上也綁了一個人?？紤]以上狀況,你是否還會拉動拉桿?
根據(jù)同理心論點,這套道德學(xué)模型的開發(fā)者正是控制拉桿的人,根據(jù)該模型的結(jié)論,在無人駕駛汽車面臨此類交通事故時,車輛必然是駛向一個人所在的道路。但即便如此,這套模型是否符合道德倫理依然有待商榷,出現(xiàn)這種情況時,開發(fā)者是否應(yīng)承擔(dān)法律責(zé)任也是一個值得探討的問題。
道德困境
“究竟無人駕駛汽車是否該采用道德判斷?如果采用,它是否要模仿人類的判斷方式來進行道德判斷?如果它們由始至終都遵照道德倫理行事,但事情的結(jié)局還是不如預(yù)期,該由誰負(fù)責(zé)呢?”前述道德模塊的研究人員戈登·皮帕(Gordon Pipa)教授指出,社會應(yīng)盡快對無人駕駛的道德判斷問題進行討論。
記者查閱資料發(fā)現(xiàn),這并不是輿論首次針對無人駕駛汽車道德判斷問題提出疑問。早在2015年就有人指出,無人駕駛車輛存在道德困境,只不過當(dāng)時的兩難選擇是犧牲車上的乘客還是犧牲路人。根據(jù)當(dāng)時法國圖盧茲經(jīng)濟學(xué)院的吉恩-弗朗索斯·博納豐(Jean-Francois Bonnefon)教授與同事展開的相關(guān)研究結(jié)果顯示,通常情況下人們認(rèn)為,從設(shè)計上自動駕駛汽車應(yīng)該使死亡人數(shù)最小化。
如果可以避開一群人,我們就可以選擇傷害一個人嗎?斯坦福大學(xué)教授克里斯·格德斯(Chris Gerdes)呼吁,研究人員、汽車工程師和汽車制造商要為他們研發(fā)的技術(shù)面臨的倫理道德抉擇做好準(zhǔn)備。他指出,不應(yīng)該簡單地做一個道德模塊,然后把它插入無人駕駛汽車中。其他專家也認(rèn)為,在無人駕駛技術(shù)研發(fā)中會面臨嚴(yán)峻的倫理道德考驗。清華大學(xué)蘇州汽車研究院智能汽車技術(shù)研究所所長戴一凡認(rèn)為,無人駕駛汽車道德爭議的最終原因,在于人類對道德倫理缺乏共識。
兩難抉擇
面對道德困境時,無人駕駛汽車該如何抉擇?記者調(diào)查過程中,一位被調(diào)查者提出了這樣的疑問:“為何剎不住車?”這個疑問將無人駕駛汽車的道德困境打回到技術(shù)研發(fā)的原點:既然技術(shù)無法達(dá)到,理論上也存在很多爭議,為何還要提升無人駕駛的等級?
同濟大學(xué)汽車安全技術(shù)研究所所長朱西產(chǎn)告訴記者:“無人駕駛汽車的道德抉擇問題是人工智能的一個分支,是無人駕駛汽車達(dá)到L5級時必須要考慮的問題。”朱西產(chǎn)認(rèn)為,就目前無人駕駛汽車技術(shù)而言,無人駕駛汽車是根據(jù)車輛傳感器、地圖等軟硬件提供的確定信息作出決策,這個決策是確定性的。如果發(fā)生事故,就是決策出問題,也可以據(jù)此判斷出,到底是哪方面出現(xiàn)問題,然后由相應(yīng)的問題方來承擔(dān)相應(yīng)責(zé)任。
北汽集團新技術(shù)研究院副院長榮輝指出,發(fā)展無人駕駛汽車技術(shù),首先要改變的觀念就是“自動駕駛或無人駕駛不會發(fā)生傷亡事故”,自動駕駛和無人駕駛技術(shù)的到來會顯著減少事故的發(fā)生率,但無法完全避免事故的發(fā)生。同時榮輝認(rèn)為,無人駕駛汽車道德倫理爭議問題本身就屬于“詭辯論”,作為無人駕駛汽車技術(shù)研發(fā)人員,更應(yīng)該探討的問題首先是怎么快速發(fā)現(xiàn)人,然后緊急把車剎住。
針對這個問題,戴一凡認(rèn)為,雖然無人駕駛終將面臨道德程序的問題,但目前看還不急迫,當(dāng)下首要需解決的還是無人駕駛的技術(shù)問題。另外,榮輝指出,關(guān)于無人駕駛的相關(guān)法律法規(guī)應(yīng)該盡快完善,只有法律法規(guī)跟上技術(shù)發(fā)展的步伐,才有可能最大程度地規(guī)避這類道德倫理之爭。 |
