IT之家 4 月 21 日消息,gigglehd 最新報告指出,在 RAG(檢索增強生成)AI 基準測試中,相比較非 X3D 型號處理器,AMD 的 3D V-Cache 處理器性能最高可提升 88%。
IT之家注:RAG(檢索增強生成)是一種結合外部數據庫檢索與生成能力的 AI 架構。傳統大語言模型依賴預訓練數據,面對未知數據時存在局限。RAG 通過實時檢索外部知識庫,為模型提供精準上下文,從而生成更準確、詳盡的回答,廣泛應用于企業知識庫與智能問答系統。
![]()
摩根士丹利采用開源 X3D RAG 基準,模擬 10 萬至 20 萬向量規模的單節點場景。結果顯示,在 100K 批量搜索測試中,AMD Ryzen 3D V-Cache 處理器速度比非 X3D 芯片快 88%。
![]()
X3D RAG 是開源基準測試工具,用于衡量 CPU 緩存和架構如何影響本地 / 內部 RAG 流水線中基于圖的向量搜索及相關階段。
![]()
![]()
在 200K 批量搜索中,Ryzen 7 9850X3D 性能較 Ryzen 7 9700X 提升超 50%,這顆 8 核處理器甚至超越了 16 核的 Ryzen 9 9950X。
![]()
![]()
![]()
在技術實現方面,該機構認為大容量緩存顯著優化了 HNSW(分層可導航小世界)算法的圖檢索效率。在索引構建測試中,100K 規模耗時縮短 50%,200K 規模縮短 39%,并發 RAG 吞吐量測試同樣表現優異。
![]()
![]()
![]()
參考
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.