騰訊實驗室發布智能機器人導航突破：讓AI像人類一樣理解空間

這項由騰訊AI實驗室的王正成、林子川、楊藝君、傅浩波、葉德恒等研究人員共同完成的研究，發表于2024年12月的arXiv論文庫，論文編號為arXiv:2512.02631v1。感興趣的讀者可以通過該編號查詢完整論文內容。這項研究解決了一個我們日常生活中經常遇到的問題：如何讓機器人像人類一樣理解復雜的室內環境，并能夠準確找到目標物品。

當你走進一個陌生的房間，需要找到某樣東西時，你的大腦會自動進行一系列復雜的操作。首先，你的眼睛會掃描整個房間，識別各種物品和它們的位置關系。然后，你會結合別人給你的指示（比如"去拿廚房里的鍋"），在腦海中規劃一條最佳路線。最后，你會一步步移動，同時不斷調整路線，直到找到目標。這個過程看似簡單，但對機器人來說卻是一個巨大的挑戰。

現有的智能機器人在執行這類導航任務時經常會犯三種錯誤，就像一個迷路的游客一樣手足無措。第一種是"看花了眼"的感知錯誤，機器人可能會聲稱看到了實際上不存在的物體，或者完全忽視眼前明顯存在的目標物品。第二種是"想歪了"的推理錯誤，即使機器人正確識別了物體，它也可能搞錯空間關系，明明目標在左邊，卻堅持往右走。第三種是"走錯了路"的規劃錯誤，機器人可能會選擇完全不可行的行動，比如試圖穿過墻壁或撞向障礙物。

騰訊研究團隊開發的SeeNav-Agent系統就像給機器人配備了一副超級眼鏡和一個智能導航助手。這個系統的核心創新在于兩個方面：首先是一套名為"雙視角視覺提示"的技術，讓機器人能夠同時從第一人稱視角和鳥瞰視角觀察環境，就像人類既能看到眼前的景象，又能在腦海中構建整個房間的平面圖。其次是一種叫做"步驟獎勵組策略優化"的訓練方法，通過為機器人的每一個正確動作給予即時反饋，讓它快速學會如何在復雜環境中做出最佳決策。

在實際測試中，這個系統的表現令人印象深刻。使用GPT-4.1作為核心大腦的SeeNav-Agent，在導航成功率上達到了86.7%，比目前最先進的系統提高了整整20個百分點。更為重要的是，經過特殊訓練的Qwen2.5-VL-3B模型版本達到了72.3%的成功率，比之前最好的開源模型提高了5.6個百分點，而且在訓練穩定性、收斂效率和泛化能力方面都表現出顯著優勢。

一、機器人導航的現實挑戰：當AI迷失在室內空間

要理解這項研究的重要性，我們不妨回想一下自己初次到訪陌生地方時的經歷。當你拿著手機導航在商場里尋找某家店鋪時，即使GPS信號微弱，你依然能夠通過觀察周圍的標識、店鋪布局和人流方向，結合導航提示找到目的地。這種看似輕松的能力，背后實際上涉及了復雜的視覺感知、空間推理和行動規劃過程。

對于機器人來說，室內導航面臨的挑戰遠比我們想象的復雜。傳統的機器人導航系統通常將視覺感知、地圖構建、路徑規劃等功能分別處理，就像讓不同的專家分別負責看路、畫地圖和規劃路線，然后再把結果拼湊在一起。這種方法在理想環境下可能工作得不錯，但在真實世界的復雜場景中，各個模塊之間的信息傳遞和協調往往出現問題。

近年來，大型視覺語言模型的出現為機器人導航帶來了新的可能性。這些模型就像擁有了豐富知識和經驗的智能助手，能夠同時處理視覺信息和語言指令，并做出相應的決策。然而，即使是這些先進的模型，在實際應用中也經常出現令人困惑的錯誤。

研究團隊通過大量實驗發現，基于大型視覺語言模型的導航機器人主要存在三大類問題。感知層面的問題就像人出現幻覺一樣，機器人可能會"看到"房間里并不存在的椅子，或者完全"視而不見"面前的桌子。推理層面的問題則表現為空間關系理解錯誤，比如明明需要向左轉才能到達目標，機器人卻堅持認為應該向右走。規劃層面的問題最為直觀，機器人可能會做出完全不合理的動作決策，比如試圖穿越明顯的障礙物。

這些問題的根源在于現有模型在訓練過程中主要接觸的是靜態圖像和文本描述，缺乏對三維空間和動態環境的深入理解。就像一個只在書本上學過游泳的人突然被扔進游泳池一樣，理論知識無法完全轉化為實際操作能力。

二、雙重視角的智慧：讓機器人擁有全景認知能力

騰訊研究團隊提出的解決方案的核心理念可以用一個簡單的比喻來理解：當我們在一個復雜的地方尋找某樣東西時，我們不僅會用眼睛觀察眼前的景象，還會在腦海中構建一個整體的空間布局圖。SeeNav-Agent的雙視角視覺提示技術正是模擬了這種人類的認知方式。

傳統的機器人導航系統通常只使用單一視角，要么是第一人稱視角（就像人眼看到的景象），要么是鳥瞰視角（就像從上往下看的地圖）。第一人稱視角能夠提供豐富的物體細節和紋理信息，但難以把握整體的空間關系。鳥瞰視角雖然能清晰展示空間布局，但物體在這種視角下的形狀往往與我們日常認知中的樣子差別很大，容易導致識別錯誤。

研究團隊的創新之處在于讓機器人同時使用這兩種視角，就像給機器人裝了一雙能夠自由切換焦距的智能眼睛。更重要的是，他們還設計了一套巧妙的視覺提示系統，幫助機器人更好地理解和利用這些視覺信息。

這套視覺提示系統包含了幾個關鍵組件，每個組件都有其特定的作用。邊界框標注就像用紅色框圈出重要信息一樣，幫助機器人快速識別目標物體的位置。當人類在復雜場景中尋找特定物品時，我們的注意力會自然聚焦在相關區域，邊界框標注為機器人提供了類似的注意力引導機制。

導航線功能則借鑒了游戲中小地圖的設計思路。在許多開放世界游戲中，玩家可以在小地圖上看到從當前位置到目標位置的引導線，這條線幫助玩家在復雜的地形中保持正確的方向感。研究團隊在機器人的視覺輸入中也加入了類似的導航線，從機器人當前位置指向目標物體，讓機器人能夠直觀地理解移動方向。

智能體標記是另一個重要的創新。在鳥瞰視圖中，機器人用一個帶箭頭的圓圈來表示自己的位置和朝向，圓圈的不同顏色區域標識左右兩側，箭頭指示前進方向。這種設計解決了機器人在理解空間方位時經常出現的左右混淆問題。想象一下，當你在使用導航應用時，如果地圖上沒有明確顯示你的朝向，你很容易搞錯東南西北的方向。

動作投影技術可能是整個系統中最巧妙的部分。傳統的機器人需要從大量可能的動作中選擇最合適的一個，這個過程就像在沒有任何提示的情況下猜測正確答案。動作投影技術將所有可能的動作以箭頭和編號的形式直接顯示在圖像上，將復雜的動作規劃問題轉換成了簡單的選擇題。機器人不再需要憑空想象每個動作的后果，而是可以直觀地看到每個動作對應的移動方向或視角變化。

視角對齊功能確保了兩個視角之間的一致性。在鳥瞰視圖中，機器人可能面向任意方向，這會導致視角混亂。研究團隊設計的對齊機制確保機器人在鳥瞰視圖中始終朝向上方，與第一人稱視角保持一致的方向感，就像確保地圖上的指南針始終指向正確的方向一樣。

三、智能訓練新方法：步驟級獎勵讓學習更精準

如果說雙視角視覺提示技術是給機器人配備了更好的"眼睛"，那么步驟獎勵組策略優化（SRGPO）就是為機器人設計了更科學的"學習方法"。傳統的機器人訓練就像考試只看最終成績，不管過程對錯，這種方式在面對需要多步驟完成的復雜任務時效果很差。

在傳統的強化學習訓練中，機器人只有在完成整個導航任務后才能獲得反饋：成功找到目標得1分，失敗得0分。這就像讓學生做一道復雜的數學題，只告訴他們最終答案對錯，而不指出哪一步計算出了問題。對于需要走幾十步才能完成的導航任務來說，這種稀疏的反饋信號讓機器人很難判斷每個具體動作的好壞。

現有的一些改進方法嘗試為每個步驟設計獎勵信號，但面臨著狀態匹配的難題。比如GiGPO方法要求將多個軌跡中的相同狀態進行分組比較，但在連續的導航環境中，完全相同的狀態極其罕見，這就像要求在不同的考試中找出完全相同的題目一樣困難。為了獲得足夠的相同狀態，系統需要運行大量的軌跡，計算成本極高。

SRGPO方法的突破性創新在于設計了一種"可驗證的過程獎勵"機制。這種獎勵機制的核心思想是基于導航任務的本質特征：無論機器人處于什么具體位置，只要它的動作能讓自己更接近目標，或者能讓目標重新進入視野，這個動作就是好的。這種獎勵設計巧妙地繞過了狀態匹配的難題，因為它不依賴于具體的環境狀態，而是基于動作效果的普遍性原則。

具體來說，這套獎勵機制就像一個實時的導航教練。當機器人執行一個動作后，系統會立即檢查兩個關鍵指標：機器人是否離目標更近了，以及目標物體是否重新進入了視野。如果機器人向正確方向移動，縮短了與目標的距離，它會得到正面獎勵。如果機器人通過轉動視角讓之前消失的目標重新出現在畫面中，同樣會獲得獎勵。相反，如果機器人嘗試執行無效動作（比如撞到障礙物），就會受到懲罰。

在具體的訓練過程中，SRGPO采用了一種巧妙的分組策略。傳統方法需要將相同狀態的步驟分在一組進行比較，而SRGPO可以隨機將不同軌跡中的任意步驟分組。這就像從不同班級隨機選取學生組成學習小組，每個小組內的學生通過比較彼此的表現來相互學習。由于獎勵機制不依賴于具體狀態，這種隨機分組不僅可行，而且大大提高了訓練效率。

研究團隊還設計了一個巧妙的雙層優勢估計方法。在群體層面，系統會比較不同軌跡的整體表現，就像評估不同學生的期末成績。在步驟層面，系統會評估每個具體動作的質量，就像評估學生解題過程中每一步的正確性。最終的訓練信號結合了這兩個層面的信息，確保機器人既能學會完成整體任務，又能掌握每個步驟的最佳策略。

四、實驗驗證：從理論到實踐的完美轉化

為了驗證SeeNav-Agent系統的有效性，研究團隊在EmbodiedBench Navigation基準測試平臺上進行了全面的實驗評估。這個測試平臺就像機器人導航領域的標準化考試，包含60個獨特的室內導航任務，涵蓋了各種復雜的場景和挑戰。

在這個測試環境中，機器人需要根據自然語言指令（比如"去廚房找到面包"）在三維室內環境中導航到指定目標。環境的設計非常貼近真實生活，包含各種家具、裝飾品和日用品，機器人需要在這些復雜的物品中準確識別目標，并規劃合理的路徑到達目的地。成功的標準是機器人必須在規定步數內到達距離目標物體1米以內的位置。

測試結果令人印象深刻。使用GPT-4.1作為基礎模型的SeeNav-Agent在加入雙視角視覺提示技術后，導航成功率達到了86.7%，這比之前最好的閉源模型Claude-3.5-Sonnet的66.7%提高了整整20個百分點。這種改進幅度在人工智能領域是相當顯著的，相當于學生的考試成績從及格線提升到了優秀水平。

更令人興奮的是開源模型的表現。經過完整訓練的Qwen2.5-VL-3B模型在使用SeeNav-Agent技術后，成功率從原來的16.7%躍升至72.3%，提升幅度超過55個百分點。這種戲劇性的改進證明了該技術對不同規模和類型的模型都具有顯著的增強效果。

研究團隊還進行了詳細的組件分析實驗，就像醫生逐一檢查每個器官的功能一樣。他們發現，僅僅添加雙視角輸入而不加入視覺提示模塊，機器人的表現實際上會下降，這證明了視覺信息的正確處理和引導至關重要。邊界框標注、動作投影和視角對齊是最關鍵的三個組件，移除其中任何一個都會導致性能顯著下降。

在訓練方法的比較中，SRGPO展現出了明顯的優勢。與傳統的GRPO和GiGPO方法相比，SRGPO不僅收斂速度更快，訓練過程也更加穩定。在訓練曲線圖中，SRGPO的性能提升呈現平滑上升趨勢，而其他方法則表現出較大的波動性。這種穩定性對實際應用來說至關重要，因為它意味著系統的表現更可預測，訓練成本也更低。

為了進一步驗證系統的泛化能力，研究團隊還在全新的環境中進行了測試。他們從AI2-THOR場景庫中選擇了60個全新的室內場景，這些場景在訓練過程中從未出現過。即使在這種嚴格的泛化測試中，使用SRGPO訓練的模型仍然保持了優異的性能，證明了該方法學到的不是簡單的場景記憶，而是真正的導航策略和空間理解能力。

研究團隊還展示了一個具體的案例分析，清晰地說明了視覺提示技術的作用機制。在這個案例中，機器人需要尋找房間中的保險箱，但目標物體暫時不在視野范圍內。普通的GPT-4.1模型出現了典型的幻覺現象，錯誤地聲稱能看到保險箱，并試圖向前移動，結果撞到了障礙物。而配備了雙視角視覺提示的版本能夠正確識別目標不在視野中的情況，通過導航線的指引判斷出需要向右轉動視角，最終成功找到目標。

五、技術細節的深度剖析：讓AI真正理解空間

在SeeNav-Agent系統的技術實現中，有許多精巧的設計值得深入探討。整個系統的輸入處理機制就像一個精密的信息處理工廠，將復雜的多模態輸入轉換成機器人能夠理解和處理的格式。

系統的狀態空間定義非常精確。在每個時間步，機器人的輸入狀態包含四個核心組件：自然語言指令、人類給出的行動策略、當前環境的視覺觀測，以及過去幾步的行動歷史。這種設計確保了機器人能夠同時考慮任務目標、策略指導、當前狀況和歷史經驗，就像人類在導航時會綜合考慮這些因素一樣。

動作歷史的設計尤其巧妙。系統保留最近5步的行動記錄，包括每個動作的具體內容和環境的反饋信息。這種短期記憶機制幫助機器人避免重復錯誤，比如如果某個方向的移動剛剛失敗，機器人就不會立即重復嘗試。同時，這種記憶窗口的長度經過精心調節，既能提供足夠的上下文信息，又不會讓系統承擔過重的計算負擔。

雙視角圖像的融合處理采用了簡單而有效的拼接策略。系統將鳥瞰視圖和第一人稱視圖水平拼接成一張圖像，然后輸入到視覺語言模型中。這種看似簡單的處理方式實際上充分利用了現代視覺語言模型強大的多區域理解能力，讓模型能夠自然地關聯兩個視角中的信息。

在視覺提示的具體實現中，每個組件都有精確的參數設置。邊界框使用醒目的紅色繪制，確保在復雜背景中仍然清晰可見。導航線采用從機器人位置指向目標的直線箭頭，在第一人稱視圖中起點設在畫面底部中央，在鳥瞰視圖中起點則是機器人的中心位置。動作投影使用藍色箭頭和清晰的數字標識，確保機器人能夠準確關聯每個箭頭與對應的動作編號。

SRGPO算法的實現包含了許多技術細節。過程獎勵的計算基于精確的幾何計算，系統會實時計算機器人與目標之間的歐幾里得距離，以及目標物體在當前視野中的可見性。獎勵函數的設計考慮了動作的有效性，無效動作會受到0.1的懲罰，這個數值經過大量實驗調節得出。

在分組策略的實現中，系統使用隨機采樣來構建步驟級的比較組。每個組包含16個隨機選擇的步驟，這個組大小在計算效率和統計可靠性之間取得了良好的平衡。優勢計算使用標準的標準化方法，確保不同組之間的比較具有可比性。

訓練過程中的超參數設置經過精心調節。學習率、批處理大小、訓練輪數等關鍵參數都通過大量的消融實驗確定。在域內訓練中，系統訓練150輪，在域外訓練中訓練100輪，這些數字反映了不同場景下收斂所需的時間。

系統還包含了多種安全機制和錯誤處理策略。當機器人連續執行無效動作時，系統會自動觸發探索策略，鼓勵機器人嘗試旋轉視角或改變移動方向。最大步數限制確保每個任務不會無限期運行，為實際應用提供了可靠的終止條件。

六、對比分析：為什么SeeNav-Agent獨占鰲頭

要真正理解SeeNav-Agent的價值，我們需要將它與現有的其他方法進行詳細比較。在機器人導航領域，目前主要有三類解決方案，每類都有其特定的優勢和局限性。

第一類是傳統的模塊化導航系統。這類系統就像一個分工明確的工廠流水線，將導航任務分解為多個獨立的模塊：感知模塊負責識別環境中的物體和障礙物，建圖模塊負責構建環境的空間表示，規劃模塊負責計算從當前位置到目標位置的最優路徑，控制模塊負責執行具體的移動動作。這種方法的優點是每個模塊都可以獨立優化，技術相對成熟。但問題在于模塊之間的信息傳遞往往存在損失，而且難以處理動態變化的環境。

第二類是基于端到端深度學習的方法。這類系統試圖用一個神經網絡直接從原始傳感器輸入映射到控制輸出，就像訓練一個能直接開車的AI司機。這種方法的優勢是能夠學習到復雜的感知-動作映射關系，但缺點是缺乏可解釋性，而且需要大量的訓練數據。

第三類是基于大型語言模型的方法。這是最近興起的研究方向，利用預訓練的視覺語言模型來理解環境和指令，然后輸出相應的動作。這類方法的優勢是能夠處理自然語言指令，具有較好的泛化能力，但在空間推理和長期規劃方面存在明顯不足。

SeeNav-Agent巧妙地結合了這些方法的優勢，同時避免了它們的主要缺點。與傳統模塊化方法相比，SeeNav-Agent使用統一的視覺語言模型處理所有信息，避免了模塊間信息傳遞的損失。與端到端深度學習方法相比，SeeNav-Agent的決策過程更加透明，通過視覺提示和結構化輸出，我們可以清楚地了解系統的推理過程。與現有的基于大型語言模型的方法相比，SeeNav-Agent通過雙視角輸入和過程獎勵機制顯著增強了空間理解和長期規劃能力。

在具體的性能比較中，SeeNav-Agent在多個關鍵指標上都表現出色。在成功率方面，它顯著超越了所有對比方法。在訓練效率方面，SRGPO算法比現有的強化學習方法收斂更快，需要的計算資源更少。在穩定性方面，SeeNav-Agent的訓練過程表現出更好的一致性，減少了隨機性對最終性能的影響。

特別值得注意的是，SeeNav-Agent在不同規模的模型上都表現出了一致的改進效果。無論是使用大型的GPT-4.1模型，還是相對較小的Qwen2.5-VL-3B模型，該方法都能帶來顯著的性能提升。這種一致性表明，該方法的核心思想具有普遍適用性，不依賴于特定模型的具體架構。

在泛化能力的測試中，SeeNav-Agent也表現出了明顯的優勢。當在完全未見過的環境中測試時，該系統仍能保持較高的性能水平，這表明它學到的是通用的導航策略，而不是對特定環境的記憶。

七、實際應用前景：從實驗室到現實世界

SeeNav-Agent技術的成功不僅僅是學術上的突破，更重要的是它為實際應用開辟了廣闊的前景。這項技術的潛在應用領域非常廣泛，從家庭服務機器人到工業自動化，從醫療護理到物流配送，都可能因此而發生革命性的變化。

在家庭服務領域，配備了SeeNav-Agent技術的機器人可以成為真正有用的家庭助手。想象一下，你只需要對機器人說"去廚房幫我拿一下鹽"，它就能準確理解指令，在復雜的廚房環境中找到調料架，識別出鹽罐，并安全地將其取回。這種自然的人機交互方式將大大降低機器人的使用門檻，讓更多普通家庭能夠享受到智能化服務的便利。

在商業環境中，這項技術可以顯著提升服務機器人的實用性。在大型超市或購物中心，導購機器人可以引導顧客找到特定的商品，即使在貨架布局經常變化的情況下也能準確導航。在酒店行業，機器人可以為客人提供客房服務，在復雜的走廊和樓層中準確找到目標房間。

醫療護理領域也是一個重要的應用方向。在醫院或養老院中，配備了這項技術的機器人可以幫助運送醫療用品、藥物和文件，減輕護理人員的工作負擔。特別是在需要嚴格消毒的環境中，機器人可以承擔一些重復性的運輸任務，降低人員感染的風險。

工業自動化是另一個具有巨大潛力的應用領域。在大型倉庫或工廠中，智能機器人可以根據語音指令或文字說明，在復雜的存儲環境中快速找到特定的零件或產品。這種靈活的導航能力可以顯著提高物流效率，減少人工操作的錯誤。

對于有特殊需求的人群，這項技術也具有重要的社會價值。視覺障礙者可以通過語音與機器人交流，讓機器人幫助尋找家中的物品或協助完成日常任務。行動不便的老年人也可以借助機器人的幫助，在不依賴家人的情況下獲取所需的物品。

當然，要將實驗室的技術轉化為實際可用的產品，還需要解決許多工程挑戰。首先是計算資源的優化問題。目前的系統主要依賴大型的云端模型，但在實際應用中，機器人需要具備一定的本地處理能力，以應對網絡連接不穩定的情況。研究團隊正在探索模型壓縮和邊緣計算的解決方案，希望在保持性能的同時降低計算需求。

安全性和可靠性是另一個關鍵考慮因素。在實際應用中，機器人必須能夠處理各種意外情況，比如突然出現的障礙物、光照變化、或者指令的歧義性。系統需要具備足夠的魯棒性，在面對這些挑戰時仍能做出安全和合理的決策。

成本控制也是推廣應用的重要因素。雖然目前的技術驗證主要使用高端的傳感器和計算設備，但在商業化過程中需要考慮如何在保證性能的前提下降低硬件成本，使普通消費者能夠承受。

隱私保護是另一個不可忽視的問題。家用機器人會接觸到用戶的私人空間和日常生活信息，如何確保這些數據的安全和隱私保護，需要在技術設計和法規制定層面都給予充分考慮。

說到底，SeeNav-Agent技術代表了人工智能在理解和導航物理世界方面的重要進步。它不僅解決了現有技術的一些關鍵限制，更為未來的智能機器人應用奠定了堅實的基礎。隨著技術的不斷完善和成本的逐步降低，我們有理由相信，在不遠的將來，具備類人導航能力的智能機器人將成為我們生活中不可或缺的伙伴。

這項研究的意義遠遠超出了技術本身。它展示了如何通過深入理解人類認知過程來改進人工智能系統，這種以人為中心的設計理念將為未來的AI發展提供重要的指導思想。更重要的是，它證明了學術研究和實際應用之間的距離正在縮短，我們正在見證人工智能從實驗室走向現實世界的關鍵時刻。

Q&A

Q1：什么是SeeNav-Agent的雙視角視覺提示技術？

A：雙視角視覺提示技術就像給機器人配備了一雙超級眼鏡，讓它能同時從第一人稱視角和鳥瞰視角觀察環境。系統還會在圖像中添加紅色邊界框標出目標物體、用導航線指示方向、用彩色標記顯示機器人位置，并將所有可能的動作以藍色箭頭形式投影到圖像上，讓機器人能更準確地理解空間關系和做出導航決策。

Q2：SRGPO訓練方法比傳統方法好在哪里？

A：SRGPO最大的創新是為機器人的每個動作步驟都提供即時反饋，就像有個教練在旁邊隨時指導。傳統方法只在任務結束時給出成功或失敗的結果，而SRGPO會立即告訴機器人"這一步走得好，離目標更近了"或"這個轉向讓目標重新出現了"。這種密集的反饋讓機器人學習更快、訓練更穩定，就像學開車時有教練實時指導比只看最終考試結果要有效得多。

Q3：SeeNav-Agent在實際測試中表現如何？

A：測試結果相當impressive。使用GPT-4.1的版本達到了86.7%的導航成功率，比之前最好的系統提高了20個百分點。更重要的是，即使是較小的Qwen2.5-VL-3B模型也達到了72.3%的成功率，比原來提升了55個百分點。這意味著這項技術不僅在頂級模型上有效，在普通規模的模型上也能帶來顯著改進，為實際應用提供了更多可能性。