過去三年里,人工智能(AI)熱潮席卷了科技行業,也為云服務供應商和芯片制造商帶來了不少的麻煩,一直無法滿足日益增長的市場需求。最早是GPU,后來又到了DRAM和NAND閃存,始終伴隨著供應短缺的問題。現在存儲類的需求仍然沒有滿足,另外一個潛在的供應問題已經開始顯現,那就是CPU。
![]()
據Wccftech報道,GPU早已經不是云服務供應商的最大瓶頸,現在問題轉移到了CPU身上。之前執行AI任務的GPU主要是簡單的推理任務,隨著新模型的出現,這些任務也在不斷演變。伴隨模型數量激增和需求呈指數增長,代理AI現被用于調用數據庫,并與高度依賴CPU的任務進行對接。這些調用數據庫和更多CPU密集型任務,導致云數據中心的CPU使用率急劇上升。
現階段GPU在服務AI群體的云服務器中依然占據主導地位,但是CPU與GPU之間的差距正在縮小,GPU與CPU的比例相近。CPU無法滿足龐大的需求已經導致數據庫不穩定,用戶提交的請求不能得到及時的回應。
早在數個月前,英特爾已經發出了警告,將更多的產能放到服務器產品上,并提高了消費端產品的價格,隨后AMD也作出了類似的決定。Arm CPU受到的沖擊更為嚴重,過去x86供應較少,Arm資源較多,不少公司將代碼庫從x86遷移到Arm,使得現在情況變得更加棘手。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.