讓機器「看懂」物體如何擺放:單視圖3D生成新框架,解決機器人空間感知核心難題

2025年09月30日19:40:25 財經 2019

你有沒有想過,快遞機器人分揀包裹時,是如何精準判斷該把哪個包裹放進哪個貨架的?當維修工戴上AR 眼鏡檢修機器,眼前的虛擬圖紙為何能嚴絲合縫地「貼」在零件上?這些酷炫場景的背後,都離不開一項關鍵技術——6D 位姿估計。簡單來說,它就是讓機器不僅能感知物體「在哪兒」(3D 位置),還能識別它「怎麼擺」(3D 姿態)。就像我們一眼就能看出杯子是立著還是倒著、離自己有多遠一樣,機器也正在學會這樣的空間洞察力。

這項技術的重要性不言而喻。工業機器人需要它來精準抓取零件;自動駕駛汽車依靠它識別周圍車輛的位置和朝向;AR應用則用它將虛擬物體準確疊加到真實世界中。

然而,這項任務在現實環境中仍然極其困難:預掃描的CAD 模型很少可用,多視圖捕獲不切實際,單視圖重建存在尺度模糊性。因此,儘管從單幅圖像進行可靠的一次性 6D 姿態估計在模擬中起著核心作用,但長期以來人們一直認為它幾乎是不可能的。

而機器人與物理世界的交互,恰恰依賴這種精準的空間感知。

近期,由北京智源研究院、清華大學、南洋理工大學等機構聯合提出OnePoseViaGen框架,創新性地將單視圖3D生成與生成式領域隨機化相結合,為解決「單參考圖像估計未知物體6D位姿」這一難題提供了全新思路。

讓機器「看懂」物體如何擺放:單視圖3D生成新框架,解決機器人空間感知核心難題 - 天天要聞

創新方案:OnePoseViaGen的工作原理

面對這些挑戰,OnePoseViaGen提出單視圖3D生成尺度-位姿聯合優化生成式領域增強的端到端解決方案,目標很明確:僅需一張參考圖,即可高精度估計未知物體的6D位姿。

讓機器「看懂」物體如何擺放:單視圖3D生成新框架,解決機器人空間感知核心難題 - 天天要聞

從照片到3D模型

首先,該方法從單張錨點圖像出發,通過先進的單視圖3D生成技術構建初始的物體模型。具體而言分為三個步驟:

背景雜訊抑制:採用實例分割工具(如 SAM 2)對參考圖像中的物體區域進行提取,剔除背景干擾,確保後續生成過程聚焦於目標物體;

提取法線信息輔助建模:通過 Image-to-Normal 工具提取物體表面法線向量信息,該信息可反映物體表面凹凸結構(如邊緣、凹槽),將其與裁剪後的 RGB 圖像共同輸入改進版 Hi3DGen 模型;

歸一化3D模型輸出Hi3DGen 通過 法線向量橋接 2D-3D 幾何關係的機制,在 物體中心坐標系下生成歸一化紋理網格模型。該模型保留物體精細幾何特徵,但尺度為歸一化單位(無物理意義),需通過後續模塊實現尺度對齊。

解決尺度模糊的關鍵創新

拿到標準化模型後,核心矛盾轉為如何將歸一化模型與真實世界對齊

這是OnePoseViaGen最核心的突破。由於模型的尺度和位姿與中的真實物體不匹配,直接使用會導致嚴重的位姿估計誤差,於是研究團隊設計了粗對齊精對齊的兩步優化策略,解決單視圖重建的尺度模糊問題。

粗對齊階段,系統通過多視角渲染、2D特徵匹配並結合深度信息,利用PnP演算法估算出一個初始的6D位姿和存在模糊的尺度,隨後通過優化3D點雲的重投影誤差來求解出準確的全局尺度因子;

精對齊階段則在此基礎上,引入類似FoundationPose的迭代優化框架,通過不斷渲染、比較並預測位姿增量來精細化位姿,同時在每次迭代後重新優化尺度,直至結果收斂,最終獲得在真實世界坐標系下度量精確的模型與位姿。

讓機器「看懂」物體如何擺放:單視圖3D生成新框架,解決機器人空間感知核心難題 - 天天要聞

跨越領域鴻溝

為解決生成模型與真實圖像間的差異,團隊提出了文本引導的生成式領域隨機化技術。

簡單來說,就是為同一物體生成多種不同紋理的變體——一個杯子可以有花紋、純色、磨砂等不同外觀,但保持相同幾何結構。隨後,在虛擬環境中渲染這些變體模型,並隨機改變光照、背景和遮擋條件,生成大規模合成數據集。最終,利用該數據集對位姿估計網路進行微調,有效彌合了生成模型與真實圖像之間的域差距,顯著增強了對各種真實世界挑戰的適應能力。

實際表現:從實驗到真實場景的驗證

為驗證OnePoseViaGen的性能,研究團隊在多個主流6D位姿估計基準數據集上進行了測試,並與現有先進方法進行了對比。在YCBInEOAT數據集上的測試結果顯示,OnePoseViaGenADD指標上實現了81.27%的平均精度,遠超基線方法的45.6%。特別是在低紋理、高遮擋物體上優勢更加明顯。

讓機器「看懂」物體如何擺放:單視圖3D生成新框架,解決機器人空間感知核心難題 - 天天要聞

在複雜光照場景和高遮擋場景的測試中,OnePoseViaGen同樣表現優異,證明其在挑戰性環境下的強魯棒性。

但最令人印象深刻的,還是真實機器人實驗。

研究團隊使用ROKAE機械臂搭載靈巧手和AgileX PiPER雙臂機器人,完成了兩項任務:單臂抓取-放置和雙臂協作。

讓機器「看懂」物體如何擺放:單視圖3D生成新框架,解決機器人空間感知核心難題 - 天天要聞

在測試中,機器人面對15類不同物體,每類進行30次實驗,均表現出高成功率和亞厘米級的精度。即使在物體交接的動態遮擋場景中,系統也能穩定工作,為機械臂提供可靠的抓取姿態指導。

結語與展望

OnePoseViaGen的技術突破,對多個領域將產生深遠影響。

在工業自動化方面,生產線可以快速適應新產品,無需為每個零件預先建立精細的3D模型,大幅降低自動化改造的成本和時間。

在物流領域,機器人能夠處理海量不同形狀、尺寸的包裹,真正實現柔性分揀。

在家庭服務機器人方面,機器可以快速學習認識新物體,理解用戶的指令,如拿那個紅色的杯子找到電視遙控器

甚至在文化遺產保護中,研究人員可以通過簡單拍照,快速獲取文物的精確三維位置和姿態,為數字化保護提供支持。

這項技術的獨特價值在於它極大降低了機器感知世界的門檻。傳統的6D位姿估計需要精密感測器、複雜校準流程和詳盡的物體模型,而OnePoseViaGen僅需一張普通照片,這種降維打擊使其具備大規模應用的前景。

財經分類資訊推薦

4月30日人社部發布會召開,涉及到社保和養老金,具體有哪些內容 - 天天要聞

4月30日人社部發布會召開,涉及到社保和養老金,具體有哪些內容

人力資源和社會保障部,組織召開的第一季度例行新聞發布會。在新聞發布會當中帶來了,關於社保和養老金方面的一些內容,那麼我們具體來了解一下究竟有哪些內容,這些內容對於我們個人來說會產生一個什麼樣的影響呢?養老保險的參保人數不斷提高根據人社部的例行新聞發布會當中指出,截止到2026年的第1季度末,養老保險的參...
中興三星全球專利糾紛持續 知識產權保護需凝聚國際共識 - 天天要聞

中興三星全球專利糾紛持續 知識產權保護需凝聚國際共識

近期,中興通訊與三星電子圍繞無線通信標準必要專利(SEP)許可的全球性糾紛迎來多項關鍵司法裁決。當地時間4月30日,德國慕尼黑第一地區法院就雙方專利侵權糾紛作出當庭判決,中興通訊在主訴與反訴案件中同時勝出,成功獲得針對三星的德國禁令。而此前英國高等法院作出的一
巴菲特,最新發聲!接班人,股東大會觀點來了 - 天天要聞

巴菲特,最新發聲!接班人,股東大會觀點來了

【導讀】伯克希爾·哈撒韋股東大會要點直擊中國基金報記者 李智當地時間5月2日,伯克希爾·哈撒韋股東大會在美國奧馬哈召開。本次大會由格雷格·阿貝爾接任CEO後首次獨立主持,「股神」巴菲特則以董事會主席身份列席台下。在今年的大會上,阿貝爾探討了AI戰略、網路安全、能源轉型、股票回購等諸多話題,宣告伯克希爾正式進...
早讀丨廣東多項交通數據創歷史新高;張雪機車再奪冠軍 - 天天要聞

早讀丨廣東多項交通數據創歷史新高;張雪機車再奪冠軍

◆「首展」添彩、國潮湧動,廣東4A級及以上景區單日接待遊客394.2萬人次。詳情--> 「五一」假期「逛吃」指南:廣交會客商與市民共享全城消費熱力。詳情--> ◆常規賽第六輪精彩紛呈,多場對決戰至最後時刻。詳情--> 粵超第二輪先賽五場:梅州反客為主大勝潮州,潮語電影《給阿嬤的情書》片花亮相汕頭主場。詳情--> 粵超、粵...
低價搶市場害苦科陸電子,連續5年虧損靠大股東「輸血續命」 - 天天要聞

低價搶市場害苦科陸電子,連續5年虧損靠大股東「輸血續命」

圖源:公司官網本報(chinatimes.net.cn)記者胡雅文 北京報道深圳市科陸電子科技股份有限公司(下稱「科陸電子」,002121.SZ)遲遲未能實現盈利。近日,科陸電子交出了被美的集團收購後的第二份年報,營收63.1億元創下歷史新高,凈利潤卻連續第5年虧損。截至2025年末,其資產負債率高達95.15%。進入2026年,一季度再虧0.4...