![]()
編輯 | 杜偉、陳陳
什么?決定 AI 上限的已不再是底座模型,而是外圍的「推理編排」(Orchestration)。
在 LLM 完全不變的前提下,僅靠一套 Agentic System,就能讓 AI 的智力表現原地暴漲一截。
在看了「AI 推理和自我改進系統」初創公司 Poetiq 的最新評測之后,有人得出了這樣的結論。
![]()
部分截圖
近日,Poetiq 表示其使用 ARC-AGI-2 測試集,在他們的系統上(稱為 meta-system)運行了 GPT-5.2 X-High。該測試集通常被用來衡量當前 SOTA 模型在復雜抽象推理任務上的表現。
結果顯示,在相同的 Poetiq 測試平臺上,GPT?5.2 X?High 在完整的 PUBLIC-EVAL 數據集上的成績高達 75%,這比之前的 SOTA 高出了約 15%,同時每個問題的成本低于 8 美元。
這里的 PUBLIC-EVAL 是 ARC 測試的一部分,前者一般包含基礎推理任務和標準的 NLP、數學推理測試,適合廣泛的模型評測,數據集更為公開、標準;后者包含更多復雜且富有挑戰性的推理問題,考察模型的抽象推理、常識推理、創新能力等,是針對高水平模型的推理極限測試。
![]()
下圖展示了各個 SOTA 模型在 PUBLIC-EVAL 數據集上的成績分布:
![]()
Poetiq 還特別強調了,其沒有對 GPT-5.2 進行任何再訓練或模型特定的優化。
在如此短的時間內,相較于 Poetiq 之前在 PUBLIC-EVAL 數據集上測試的其他模型,GPT-5.2 在準確率和價格方面實現了顯著改進。
Poetiq 進一步做出設想:如果在 PUBLIC-EVAL 測試中表現好的規律能夠延續到 ARC Prize 官方的 SEMI-PRIVATE 測試中,那么「GPT-5.2 X-High + Poetiq」會比以往任何系統配置都更強、更好。
ARC Prize 總裁 Greg Kamradt 表示,「很高興看到 Poetiq 發布 GPT-5.2 X-High 的結果。如果這個成績能保持下去,他們的系統看起來能很好地處理模型交換。不過,在 OpenAI API 的基礎設施問題解決之前,結果還沒有得到完全驗證。」
這里的模型交換指的是:系統通過切換不同的模型來應對不同的任務需求,而無需對系統或模型進行大規模的調整或重新訓練。
![]()
OpenAI 總裁 Greg Brockman 也轉推表示:GPT-5.2 在 ARC-AGI-2 上超越人類基準成績。
![]()
對于全新的測試結果,評論區提出了更多問題,比如「每個任務平均需要多長時間」。
Poetiq 回復稱,「我們現在沒有專門收集這些統計數據,最簡單的問題大概在 8 到 10 分鐘后就能完成,而最難的問題必須在 12 小時之前終止,以保持在時間限制內。所以,未來肯定還有改進的空間。」
![]()
還有人指出「大部分改進似乎來自于測試框架和協調機制,而不是任何模型特定的調優。沒有訓練變更的情況下,ARC-AGI-2 上提高了大約 15%,這表明僅在搜索、路由和終止邏輯方面就還有很大的提升空間」。
可問題是:為什么在這個設置中,X-High 每個任務的成本比 High 還要低?是因為它通過更早找到正確的解決方案而更快收斂,還是因為測試框架更積極地修剪了無效的推理過程?
對于這個問題,Poetiq 肯定了「X-High 只是比 High 更快地收斂到正確的答案」這一觀點。
![]()
6 人團隊打造 Meta-system 系統
Poetiq 是一支由 6 位研究員和工程師組成的團隊,有多位核心成員來自 Google DeepMind 。
- Ian Fischer (聯合創始人 & 聯席 CEO): 曾是 Google DeepMind 的資深研究員;
- Shumeet Baluja (聯合創始人 & 聯席 CEO): 同樣出身于 Google/DeepMind 的資深專家。
![]()
Poetiq 能夠取得上述成績,關鍵在于其構建的meta-system(元系統)。
Meta-system 不依賴特定的大模型,可以與任何前沿模型配合使用(如 Gemini 3、GPT-5.1、Grok 等),而不是訓練或微調模型本身,這意味著它能隨著新模型發布快速適配并提升性能。
Poetiq meta-system 構建了一種迭代式推理過程,其與傳統一次性生成答案的方法不同,有兩個主要機制:
- 迭代式的問題求解循環:系統并不是只向模型提出一次問題,而是利用大語言模型(LLM)生成一個潛在的解決方案,隨后接收反饋、分析反饋,并再次調用 LLM 對方案進行改進。這種多步驟、自我改進的過程,使系統能夠逐步構建并不斷完善最終答案。
- 自我審計(Self-Auditing):系統能夠自主審計自身的運行進度,并自行判斷何時已經獲得足夠的信息、當前解決方案是否令人滿意,從而決定終止整個過程。這種自我監控機制對于避免不必要的計算浪費、有效降低整體成本至關重要。
Poetiq 還特別強調,他們所有 meta-system 的適配工作是在新模型發布前完成的,而且系統從未直接接觸過 ARC-AGI 任務集,但依然在多個不同模型上取得跨版本、跨模型族的性能提升,說明 meta-system 對 reasoning 策略具有良好的泛化能力。
正是這種靈活、強大且具備遞歸能力的架構,使得 Poetiq 這樣一支小規模團隊,能夠在極短時間內取得一系列最先進(SOTA)的成果。
對于這個 meta-system,有人認為「太棒了。在模型之上構建智能,而不是在模型內部構建,意味著可以在幾個小時內適配新模型,非常高明。適配開源模型,并且成功遷移到新的封閉模型,這表明捕捉到的東西是推理過程本身的基本規律,而不是模型特定的怪癖。」
![]()
參考鏈接:
https://poetiq.ai/posts/arcagi_verified/
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.