Uber無人車曝出致命漏洞:系統根本無法識別行人過馬路

2018年,Uber自動駕駛汽車發生了全球首例致死車禍,一名女子在過馬路的途中被撞身亡。此事隨即引發了全球對無人車的關注,尤其是安全問題,Uber也因此不得不停滯其全球無人車測試工作。 一年多以後,隨着更多細節的公開,Uber無人車致死案的起因也變得更加複雜。

先來簡單回顧一下案情。

2018年3月18 日晚上 10 點,美國亞利桑那州 坦佩市一名女子被Uber自動駕駛汽車撞傷,之後不幸身亡。

當地警察部門報告稱,事發時,儘管有一名司機(安全員)坐在方向盤後面,但是,這輛車當時正處於自動駕駛模式,行駛車速爲每小時 38 英里,而該地區限速爲每小時 35 英里,而且沒有嘗試剎車。該車當時正朝北行駛,一名女子正在從距人行橫道 100 碼(約 91 米)的地方從西往東走。

亞利桑那州坦佩警察局局長Sylvia Moir表示:初步調查顯示,在致一名行人死亡的交通事故中,Uber 可能不存在過錯。他表示,Uber 自動駕駛汽車配備的攝像頭拍攝的視頻顯示這次交通 事故過錯在受害者本人——今年 49 歲的Elaine Herzberg,而非 Uber。“根據受害人橫穿馬路的方式,無論是有人還是自動駕駛模式,要避免這起交通事故是極其困難的。”

然而,根據美國國家安全運輸委員會(NTSB)週二發佈的官方檔案,事情似乎並非如當時的調查所發現的那樣。

Uber無人車曝出“大漏洞”:無法正確識別過馬路的行人

美國國家安全運輸委員會週二發佈了有關對Uber無人車事故進行了20個月調查的文件。小組將在兩週內發佈有關該事件的最終報告。

這份長達40頁的文件深入探討了案件的各種細節。

文件表明:最明顯的錯誤與軟件有關。Uber根本沒有訓練無人車在人行橫道之外識別行人

此外,Uber選擇關閉測試車輛內置的緊急制動系統,而測試車輛製造商沃爾沃後來得出結論:制動系統原本能大幅降低無人車撞上受害者的速度。

注:對此有專家表示,從技術上來說,在Uber的軟件工作時關閉沃爾沃內置系統的決定是有意義的,因爲對於汽車來說,擁有兩個軟件“主人”是不安全的。

這很大程度上解釋了爲什麼儘管汽車檢測到受害者,且有足夠的時間來停車,卻還是以每小時 38 英里的速度撞了上去。

另外調查顯示:當汽車在撞擊前5.6秒首次檢測到受害者的存在時,竟然將其識別爲車輛,隨後又歸類爲“其他”,最後,無人車將她識別成了“自行車”。

NTSB的報告顯示:車輛每次嘗試進行新的物體識別時,都會重新開始預測該物體的前進方向。所以直到撞擊發生1.2秒鐘後,系統才意識到車輛即將撞到行人,並且需要緊急剎車。這觸發了Uber的緊急控制機制:系統在確認“已檢測到危險”的同時會制動一秒鐘,在此期間,安全操作員(Uber 最重要的也是最後一道防線)可以控制汽車並進行剎車。

但遺憾的是,事故發生時安全員並沒有在看路。因此,在撞擊發生前0.2秒,汽車發出了聲音警報,安全員才抓住方向盤,接管了自動駕駛系統。可是爲時已晚,致命的撞擊還是發生了。

Uber發言人在一份聲明中表示:“對2018年事故感到遺憾”,並強調公司已對其安全計劃進行了更改。根據Uber作爲調查一部分提交給NTSB的文件,20個月以來。Uber已經改變了其安全駕駛員培訓,現在每輛車安排兩名安全操作員。該公司還改變了其安全團隊的結構,並創建了一個系統,工作人員可以匿名報告安全問題。

NTSB將於11月19日在華盛頓特區舉行一次有關此事件的會議,屆時調查人員將發佈有關事故的全面報告,詳細說明發生了什麼以及哪一方需要承擔什麼責任。研究人員還將向聯邦監管機構和Uber等公司提供建議,以便更好的構建防止此類事故的技術。

多家企業自動駕駛系統存在高危漏洞

近日伊利諾伊大學工程學院的一份報告也揭露了一些無人車系統存在的安全隱患,涉及百度、英偉達等多家企業的自動駕駛系統。

該小組分析了 2014 年至 2017 年提交的所有安全報告,其中涵蓋 144 輛無人駕駛汽車,累計行駛里程達 111.6605 萬英里。他們發現在行駛里程相同的情況下,人類駕駛汽車發生事故的機率只相當於無人駕駛汽車的四千分之一。這意味着無人駕駛技術無法以理想的速度處理緊急狀況,人類駕駛員往往需要快速接手才能阻止事故的發生。

而在提高安全水平的努力中,研究人員與相關企業發現,他們很難在無人駕駛系統遭遇特定問題之前,通過預先訓練的方式讓軟件學會如何解決這些問題。

此外,軟件與硬件堆棧中的某些錯誤只會在特定駕駛場景下引發安全問題。換句話說,單純在高速公路或者空曠 / 擁護的街區進行無人駕駛測試可能還不夠,因爲這些軟件 / 硬件故障仍有可能在其他條件下引發問題。

在對一種已經公開的視音頻技術(來自百度 Apollo 項目)進行測試時,該團隊發現了超過 500 種實例,證明該軟件在這些情況下可能無法解決問題進而導致事故發生

全自動駕駛何時能實現?

英偉達公司架構研究副總裁 Steve Keckler 曾表示:“無人駕駛汽車的安全性,決定着其能否在市場乃至整個社會當中取得成功。”

正是因爲這些短時間內難以逾越的安全漏洞,才讓全自動駕駛的實現時間一拖再拖。就連蘋果公司聯合創始人Steve Wozniak都發出感嘆:不得不暫時放棄L5級自動駕駛。

但是仍然有一些消息令行業振奮。不少科技公司都加入到“造車大軍”中來,國內外不少測試地區已經開始上線Robotaxi自動駕駛出租車服務;老牌汽車製造商也紛紛投入精力去做自動駕駛,大衆汽車就在前不久宣佈成立自動駕駛子公司,目前尚不知道這樣的轉變能給自動駕駛行業帶來什麼新動力,但是各方積極的態度還是能讓人看到一些好的發展勢頭。

不過,熱情當頭也請不要忘了一年前的這一場教訓。無人車不是玩具小車,乘客也好、行人也好,都是鮮活的生命,容不得半點馬虎,只有解決了安全問題,才能讓更多人相信無人車、選擇無人車,在路況尤爲複雜的中國,自動駕駛行業的“老司機”們還是要多下一些功夫纔是。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章