龔澤穎 投稿
量子位 | 公眾號 qbitai
機械人落地複雜場景,社交導航能力一定是避不開的關鍵一點。
先簡單介紹下,社交導航 (socialnav,social navigation) 是指在人機共存的環境中,機械人在遵循社會規範的前提下執行導航任務。
就拿下圖來說,機械人需導航至目標點,而目標恰好位於兩名行人未來軌跡的交匯區域。
它不僅要靈活避免潛在的碰撞風險,還需與行人保持合適的社交距離。
總而言之,社交導航該任務對視覺導航領域提出了獨特挑戰:
預建地圖的方法難以適應人群密集的動態環境,而現有rl方法存在短視決策和依賴全局信息的問題。
近期,香港科技大學(廣州)和香港科技大學聯合提出了一種新算法,falcon。
它通過將軌跡預測算法融入社交導航任務中,實現長期動態避障並提升導航性能。
社交導航的另一個重要挑戰則是現有基準的真實性不足。
如下所示,現有基準通常存在以下幾方面的局限性:
場景複雜性不足:僅關注機械人與人類的交互,而忽略場景本身複雜性。
人類行為不自然:行人動作僵硬、運動模式失真,難以反映實際場景交互。
針對上述局限性,研究團隊構建了兩個新數據集——social-hm3d 和 social-mp3d,作為社交導航任務的新基準。
該項目論文已被icra 2025接收,同時已經掛上arxiv。
代碼和模型權重可到github尋找。
falcon:集成軌跡預測輔助任務的強化學習框架
falcon算法框架由2個模塊組成:
主策略網絡 (mpn,main policy network)
時空預知模塊 (spm,spatial-temporal precognition module)
主策略網絡:讓機械人學會「遵守規則」
模塊一,主策略網絡,這是falcon的「大腦」,負責指導機械人如何行動。
其核心是社會認知懲罰(scp,social cognition penalty)機制,通過設計專門的懲罰函數,避免機械人干擾人類未來軌跡,從而引導智能體規避碰撞風險並保持社交距離。
具體而言,falcon引入三個關鍵懲罰項:
障礙物碰撞懲罰 :嚴厲懲罰機械人撞到靜態障礙物或行人。
人類接近懲罰:當機械人靠近行人時,隨距離減小增加懲罰。
軌跡阻礙懲罰:如果機械人干擾行人未來路徑,則提前施加懲罰。
時空預知模塊:讓機械人學會「提前規劃」
模塊二,時空預知模塊(spm),結合軌跡預測與多種社交感知輔助任務,顯著增強了機械人對未來環境動態變化的預測能力。
其主要功能包括:
人類數量估計:預測場景中有多少人,幫助評估環境複雜程度。
當前位置跟蹤:實時跟蹤行人位置,快速響應變化。
未來軌跡預測:預測未來幾秒行人路徑,提前規劃避障。
關鍵在於,輔助任務僅在訓練階段使用。
在推理階段,機械人僅依賴主策略網絡進行決策。
這種設計簡化了推理過程,確保模型在實際應用中的高效性。
特意構建兩個新的數據集
現有社交導航基準存在諸多不足,如場景過於簡化、人類行為不自然等。
以下表格為現有的社交導航模擬器與數據集統計特性對比:
為彌補這些缺陷,研究人員構建了兩個新數據集——social-hm3d和social-mp3d,具備以下優勢:
真實場景重建:基於高精度3d掃描,涵蓋公寓、辦公樓、商場等多種室內場景。
自然人類行為:採用多目標導向的軌跡生成算法和orca動態避障模型,模擬人類行走、休息等自然行為。
合理人群密度:根據場景面積動態調整人類數量,確保交互密度適中。
研究團隊表示,這兩個基準既平衡了人機交互的社交密度,同時也避免了過度擁擠。
這一基準為社交導航研究提供了更貼近真實場景的評估環境,並且支持推廣到有人環境下的物體導航、圖像導航等下游任務。
實驗部分
在定量分析方面,實驗表明,falcon在目標達成和社會合規方面表現出色:
其一是目標達成。
在social-hm3d中達到55.15%的成功率和成功路徑效率(spl,success weighted by path length)。
即使在未訓練過的social-mp3d數據集上,也能取得55.05%的成功率。
其二是社會合規。
在保持社交距離和避免碰撞方面表現良好,達到接近90%的個人空間合規性(personal space compliance, psc)和接近42%的人機碰撞率。
定量結果表明,falcon不僅在已知環境中表現出色,還能有效適應未見過的複雜動態環境。
在定性分析方面,下圖的定性結果展示了falcon在不同典型場景中的優越性——
第一個是人員跟隨情境。
falcon通過預測行人未來軌跡,主動調整速度和路徑,保持安全距離。
第二個是複雜交叉路口。
面對行人和靜態障礙物同時存在的場景,falcon提前預測並規划出安全高效的路徑。
第三個是正面接近情境。
傳統的rl算法proximity-aware試圖直接從行人面前穿過導致碰撞,falcon通過預測行人未來軌跡,提前調整路徑並安全避開。
3個關鍵發現
各項實驗後,團隊有了三個關鍵發現:
發現1,未來感知算法優於以往實時感知算法。
靜態路徑規划算法(如a*)無法適應動態環境,而實時感知方法(如orca和proximity-aware)雖能被動避障,但仍存在延遲反應問題。
相比之下,falcon能夠主動預測行人軌跡並提前調整路徑,顯著提升了安全性和效率。
發現2,輔助任務有助於提高性能,其中軌跡預測最重要。
下表展示了不同輔助任務對導航性能的影響。
其中軌跡預測(spm.traj)效果最為顯著,成功率從40.94%提升至54.00%。
發現3,scp和spm相輔相成,改善性能並加快訓練收斂。
下圖圖中為消融研究中的訓練曲線。
可以觀察到,具有spm和scp的完整falcon模型收斂更快,性能更好。
scp在提升模型性能方面發揮關鍵作用,尤其是與spm集成後,整體性能進一步提升(從53.63%提高至55.15%),並加快訓練收斂速度。
項目主頁:https://zeying-gong.github.io/projects/falcon/論文鏈接:https://arxiv.org/abs/2409.13244代碼鏈接:https://github.com/zeying-gong/falcon