百度Apollo回應美專家安全故障評測,虛擬容器評測漏洞遠不能導致自動駕駛汽車事故發生

2019年11月05日23:05:16 汽車 1092
百度Apollo回應美專家安全故障評測,虛擬容器評測漏洞遠不能導致自動駕駛汽車事故發生 - 天天要聞

近日,伊利諾伊大學香檳分校的一個研究團隊新開發了一種針對自動駕駛的故障評估技術,他們首先對百度Apollo 3.0和英偉達專有自動駕駛系統DriveAV進行了一次軟體故障評估。

結果顯示,這隻團隊在4小時發現了561個關鍵安全故障,其中,百度Apollo 3.0和英偉達具體故障佔比並未說明。

針對這一事件,百度在第一時間發表聲明稱,「非常重視測試發現的模塊異常,將持續優化,Apollo自動駕駛系統的運行依賴於軟硬體各模塊的協同工作,從而完成自動駕駛的安全運行。在新型FI測試中,同樣依託多模塊的軟硬體協同機制,從而避免風險的實際發生。」

從百度回應中可以看出,單純的軟體故障並不能使自動駕駛汽車發生一系統安全事故。

百度Apollo回應美專家安全故障評測,虛擬容器評測漏洞遠不能導致自動駕駛汽車事故發生 - 天天要聞

除了百度回應外,單從這一事件本身在車端可行性而言,其實,存在很多討論的地方。

通過論文可以了解到,該研究將Apollo的代碼放到一個伺服器上的虛擬容器(Docker)上進行測試,導致注入故障後無法解決。

這裡我們需要知道一個前提條件就是,故障注入是針對系統的,而百度真實的系統是軟硬體一體,Apollo代碼運行於符合車規和功能安全的硬體上,即便注入故障也不會出現問題。

與此同時,在實際駕駛過程中,Apollo冗餘系統一旦發現車速異常,就不會執行深踩油門的動作,也就不會產生類似追尾的風險。

另外,論文中人為修改自動駕駛的控制輸出,造成猛踩油門,而這情況在真實的安全硬體上不會發生。

百度Apollo回應美專家安全故障評測,虛擬容器評測漏洞遠不能導致自動駕駛汽車事故發生 - 天天要聞

按照我們實際的開車經驗,大部分情況下,即便車往前竄了一下,也不至於撞到前面的車。

在這篇論文中可以找到一個極端的CASE,即本車以安全的車距在跟隨前面的車,在車速被改、向前加速一下的同時,假如恰好有一輛車從旁邊車道併線過來,安全車距就會突然變短,這時候才會撞車。

不過,這樣的事故,全責在變道車。

對此,百度相關人員也給予了同樣的解釋,「因為真實的硬體上,這部分代碼跑在ASIL-D級安全的MCU上,這種安全MCU裡面有兩個處理器,試行同樣的運算,相關校驗,它把一個處理器的內存改掉,讓它計算錯誤,這就會和另一個處理器的值不一樣,立刻就發現了,根本不會輸出。」

自動駕駛相關安全領域專家也對此事件做出點評,他們認為,「故障注入」研究方法是在一些位置植入故障,如果場景導致事故,則該植入場景算作研究中的一個『Fault』。」

也就是說,如果測試中將剎車破壞,從而導致事故,則剎車失靈是一個「Fault」。

其實,今年7月,美國伊利諾伊大學香檳分校研究人員發表題為《ML-based Fault Injection for Autonomous Vehicles: A Case for Bayesian Fault Injection》的論文,根據相關表述,研究人員對百度Apollo、英偉達進行了兩種FI測試。

其中,在傳統故障注入(FI)下,Apollo代碼和參數沒有出現任何問題,表現穩健。

在這起自動駕駛故障評估事件中,我們看到美國伊利諾伊大學香檳分校研究人員是想通過故障評估的方法來驗證自動駕駛系統的安全性,但由於評測有過多的人為修改以及模擬測試結果導致其公眾誤讀。

誠然,評測機構的權益與企業的權益都應該得到尊重,而辨別其中的責任,我們更需要從實際出發,理性的看待自動駕駛汽車出現的問題。

以下為百度Apollo完整回應:

我們關注到近期伊利諾伊大學香檳分校研究人員對Apollo開放平台的關注和使用,我們正與對方取得聯繫,了解更多信息。

根據論文表述,研究人員對Apollo進行兩種FI測試,在傳統故障注入(FI)下,Apollo代碼和參數沒有出現任何問題,表現穩健。感謝該校研究人員對Apollo平台的認可。而新型的FI是使用故意更改代碼和參數的方式,引發嚴重錯誤或警告性錯誤,可幫助自動駕駛更好地發現安全風險。

Apollo自動駕駛系統的運行依賴於軟硬體各模塊協同工作,從而完成自動駕駛安全運行。對該分校在新型FI測試中出現的模塊故障,我們有多模塊軟硬體協同機制,來避免風險實際發生。在新型FI測試中,會人為地把代碼裡面輸出的點踩油門控制信號修改成深踩油門。而在實際過程中,Apollo冗餘系統一旦發現車速異常,就不會執行深踩油門動作,也就不會產生類似追尾風險。

但即便多模塊協同、軟硬體冗餘能避免安全風險產生,我們也還是非常重視FI發現的模塊異常,並持續優化。

就開源平台本身而言,我們高興地看到平台給大家的研髮帶來了便利和可能性。通過開源代碼,我們一起去發現問題,解決問題。通常在一項技術高速發展期,如Apollo開源系統,在全球開發者幫助下,會比封閉系統都更安全,這也是我們開源的目的與意義所在。

Apollo每天都在持續迭代,向更安全、更可靠、更完備上進步。Apollo也希望集大家力量,共同推進人類夢想進步。

汽車分類資訊推薦

海報車聞 | 頂配29.99萬元,小米汽車正式上市 - 天天要聞

海報車聞 | 頂配29.99萬元,小米汽車正式上市

海報新聞記者 撒偉 北京報道3月28日,小米SU7在北京正式上市並發布價格。發布會上,小米創始人兼董事長雷軍公布該款新能源汽車的官方定價:標準版配置21.59萬元、PRO長續航版售價24.59萬元,MAX版29.99萬元。
超高質價比 混動SUV「卷王」 長安UNI-Z先享價12.79萬起 - 天天要聞

超高質價比 混動SUV「卷王」 長安UNI-Z先享價12.79萬起

3月13日,全新躍級新藍鯨智電SUV——長安UNI-Z先享計劃正式開啟。長安UNI-Z是長安新藍鯨動力首發車型,先享發布兩款配置,藍鯨智電iDD 125km超越型先享價12.79萬元、藍鯨智電iDD 125km卓越型先享價13.49萬元。另外,長安UNI-Z為用戶提供先享權益:自2024年3月14日至正式上市當日,用戶可99元搶1699元UNI-Z購車抵用券
小米汽車價格公布,對比其他車型,他的優勢在哪? - 天天要聞

小米汽車價格公布,對比其他車型,他的優勢在哪?

今天雷總終於把小米汽車的價格公布了,三款車型,依次價格21.59--24.59--29.99,就像雷總說的,9.9萬是不可能的,15.9也不可能,我們一直猜測的19.9萬的價格,連最低配都買不到,不知道廣大米粉對於這個價格的接受程度怎麼樣。
頂配29.99萬元,小米汽車正式上市 - 天天要聞

頂配29.99萬元,小米汽車正式上市

海報新聞記者 撒偉 北京報道3月28日,小米SU7在北京正式上市並發布價格。發布會上,小米創始人兼董事長雷軍公布該款新能源汽車的官方定價:標準版配置21.59萬元、PRO長續航版售價24.59萬元,MAX版29.99萬元。
尊貴的9系旗艦級車型,享界S9官圖曝光 - 天天要聞

尊貴的9系旗艦級車型,享界S9官圖曝光

近日,華為與北汽新能源聯合打造的享界S9車型終於正式申報,很快網路上就出現了該車的官圖,圖中直言不諱的與問界M9直接對比,顯示了9系列尊貴的旗艦特徵。具體來看本次曝光的官圖,由側面開始,並有局部的細節圖片,前臉部分大體上與智界S7相似的設計,不同的除了享界字母車標之外,還有更加複雜的大燈組,扁平的光源採用...
換裝全新電動機,新款騰勢N7新車型申報信息曝光 - 天天要聞

換裝全新電動機,新款騰勢N7新車型申報信息曝光

近日,在工信部381批新車公示中出現了新款騰勢N7新車型的申報信息,新車應該會在不久之後3月內正式上市。在外觀方面,新車與此前申報的款式和近期發布的官圖不會有明顯的區別,主要針對前臉進行修改,採用了最新的扁平大燈組配橫杠式日線燈相對完整的車鼻設計,雙層梯形下格柵及三角形霧燈區進氣道等元素,相比此前的八字鬍...
入門版本性能略有增強,新款比亞迪海豹EV申報信息曝光 - 天天要聞

入門版本性能略有增強,新款比亞迪海豹EV申報信息曝光

近日,在工信部381批新車公示中,出現了新款比亞迪海豹EV的申報信息,新車最大的亮點是採用了比亞迪最新的電動機,最大功率提升至了231馬力,相比此前的204馬力有著進一步的提升,雖然30馬力左右不見得會對加速成績造成非常大的影響,但無疑在動力響應方面甚至經濟性方面都會有著一定的增強,顯示技術的更新。對於外觀方面...
換裝新電機,新款大眾ID.4 CROZZ申報信息曝光 - 天天要聞

換裝新電機,新款大眾ID.4 CROZZ申報信息曝光

近日,在工信部381批新車公示中出現了新款大眾ID.4 CROZZ車型申報信息,新車最明顯的不同是換裝了新款電機在,性能方面可能會有著小幅度的提升。具體來講就是採用了此前上個月剛剛在ID.7 S上首發的231馬力後置電機版本,相比於老款的中低配車型微增了26馬力,雖然遠沒有達到海外版本AP550電機的286馬力水平,但不得不說技術...
朗逸2024款300TSI DSG星空滿逸版 - 天天要聞

朗逸2024款300TSI DSG星空滿逸版

朗逸2024款300TSI DSG星空滿逸版,它是由上汽大眾生產的一款緊湊型轎車,看改款後技術參數怎麼樣?這款車的車身長是4678毫米,寬是1806毫米,高是1474毫米,軸距是2688毫米,整備質量是1345公斤。