<cite id="ffb66"></cite><cite id="ffb66"><track id="ffb66"></track></cite>
      <legend id="ffb66"><li id="ffb66"></li></legend>
      色婷婷久,激情色播,久久久无码专区,亚洲中文字幕av,国产成人A片,av无码免费,精品久久国产,99视频精品3
      網易首頁 > 網易號 > 正文 申請入駐

      從炫技到務實,超節點的祛魅時刻

      0
      分享至



      DeepSeek、通義千問、Kimi-K2等深度思考的大模型,大家應該都用過。用戶對AI越來越上頭,企業IT對算力保障的焦慮也在加劇。過去跑個小模型,8張GPU的服務器還能應付,可帶不動DeepSeek這種上百個專家、毫秒級響應的MoE架構推理模型。

      超節點,就是在這一背景下,火起來的。

      傳統單臺8卡服務器,無法滿足當下大模型訓推的算力需求。由英偉達率先提出的超節點技術,通過內部高速互聯,把數十甚至上百個AI計算芯片,集中整合到一個架構內,打造出基于Scale-up的新型架構,以此實現算力的量級躍升。核心優勢可以用一個字概括:省。



      省錢,超節點通過內部高速互聯,每張卡都能滿負荷運行,避免傳統多機柜間的算力閑置空轉,GPU卡和電費就不會浪費了;

      省地,以前跑大模型得把多個機柜拼起來,占滿半個機房,現在一臺超節點就能扛起AI訓推任務,物理空間占用更小了;

      省事,超節點把硬件、互聯、管理系統全集成好了,企業接入就能跑大模型,AI部署更快,而傳統多臺服務器要單獨調試、搭建網絡、解決散熱,一套流程下來,沒半年搞不定……

      有不少CIO或IT從業者十分困惑,超節點能幫我們用AI更省,可怎么還是買不著、用不起呢?有一種“出發點很好,但就是出發不了”的無力感。



      的確,目前真正用得上、用得起超節點的行業和企業,并不是很多。

      原因比較復雜,比如高端N卡斷供,國產GPU規模出貨量受限等。其中,有一個因素容易被忽視,那就是超節點讓AI更省的核心邏輯,似乎正在跑偏。

      在超節點的新聞里,常能看到千卡、單柜X百卡等參數互相碾壓,媒體追捧超節點的新紀錄,圍觀群眾也默認,規模越大卡越多的超節點就越先進。

      但對大多數企業來說,真的需要這么大的算力巨獸嗎?斥巨資買回數百卡的超節點,能靠AI賺回本嗎?這些問題,已經到了必須回答的時刻。



      不可否認,數百卡,甚至上千卡的超節點,是國產智算技術進步的證明。但大家有沒有想過,我們給手機充電,會關心發電廠的規模有多大,是核電廠還是水電廠嗎?只會在乎插上有沒有電,電壓是否適配,電流是否穩定,會不會把手機燒壞,這些實用層面的問題。

      同樣的道理,企業部署超節點,除了集成多少卡,也要考慮到實際應用中的隱性成本:

      一是故障率升高帶來的中斷損失。

      超節點規模越大,內部光模塊、交換機、電源節點就越多,比如某300多卡的超節點架構,就涉及近6900個光模塊和100臺左右交換機。而在高密度部署場景中,任一環節故障,都可能導致整個訓練任務中斷。對AI大模型訓練來說,故障意味著要從checkpoint檢查點重新加載模型、重啟訓練,浪費數天時間和高額電費。

      對企業來說,不中斷、不重訓,比多幾張卡更加重要。



      二是GPU閑置導致的每Token成本過高。

      業內已有共識,超節點規模存在“甜點”,超過甜點后,繼續增加超節點規模,性能提升有限但成本顯著上升。有模擬數據顯示,十萬億參數模型,甜點大概在32-64卡。也就是說,盲目追求上百張卡的超大規模,算力利用率也許并不高,GPU大部分時間是在閑置。比如說,DeepSeek官方論文給的參考方案,Decode階段需用144張H800,如果超節點使用的國產卡算力是H800的1/3,那么在PD分離場景下,48卡甚至32卡才是更優選擇。

      三是運維復雜度提升導致的總體TCO成本增加。

      高集成度的超節點產品,對運維團隊的專業能力要求極高,一旦規模增大,內部故障點也會隨之增多,小團隊很難靠自己處理。比如英偉達早期就曾嘗試過二層架構超節點,將交換機集成到單機內以擴大規模,但企業客戶更傾向于選擇單層架構,核心就是為了降低故障點、減少運維難度。英偉達256卡超節點也由于TCO總擁有成本太高,而互聯網企業客戶對TCO很重視,未能成功商業化。

      所以,超節點并不是規模越大卡越多就越好。企業需要的是能解決算力問題,且ROI投資回報率最優的IT基礎設施。超節點技術的發展,要回歸讓企業用AI更省的出發點,與企業AI業務相適配的方案才是最優解。



      既然堆卡不是出路,那么如何才能讓超節點真正成為企業的省錢利器?產業界已經給出了答案:回歸理性,追求規模與需求的適配,并通過開放生態降低綜合成本。

      一方面,越來越多的廠商將目光投向32卡、64卡這樣的更合身的規模。

      如前所說,超過性能-成本甜點區之后,超節點的邊際效益就會遞減。因此,大量國產廠商聚焦在32-64卡的實用化設計,推出貼合企業需求的產品。比如新華三UniPoD S80000,實現了單機柜32/64卡高密部署等,讓多數企業能夠負擔得起大模型訓推開銷。而且,新華三UniPoD S80000采用單層全互聯架構,大幅降低了通信延遲和故障點,在MoE等主流模型場景下,更有助于保障業務連續性。剛好的規模與更高的可靠性,成為AI算力降本增效的關鍵。



      (新華三超節點H3C UniPoD S80000)

      另一方面,開放的硬件生態正在成為降低成本的新引擎。

      隨著國產芯片生態成熟,開放式架構支持多品牌國產加速卡,打破海外高端卡壟斷,為用戶提供了更多選擇,從而降低企業的算力成本。這類開放式超節點,也成為算力普惠的關鍵。比如新華三超節點支持多品牌國產加速卡,兼容CUDA等主流軟件生態,降低企業的供應鏈成本。

      上述實踐,有望助力超節點的普及,從頭部企業的專屬品,成為千行百業的普惠基礎設施。



      需要說明的是,數百卡、千卡超節點的研發,有其戰略意義。這一技術路線,推動了光互聯、液冷、高密度布線等底層技術的極限突破,是中國算力產業仰望星空的沖頂之路。

      AI發展的速度總是超出預期,可能今天覺得32卡就夠了,但明天DeepSeek的新模型,也許內含更多專家,超大規模的超節點或許可以帶來更低的每token成本。所以,適當超前,把超節點規模進一步做大,可以給后續技術迭代留下一定的冗余。

      但對于更廣大的99%普通企業而言,需要的是腳踏實地的普惠之路。他們更迫切地希望,使用成本可控、穩定可靠的超節點產品,解決當下大模型落地的算力焦渴,支撐AI在生產力場景中落地。



      所以堆卡炫技之外,這條更合身的普惠之路,同樣勢在必行,不可偏廢。

      未來行業發展的理想狀態,是這兩條路并行不悖。既有震撼世界的算力巨無霸,也有服務千行百業的普惠產品。企業無需關心超節點內部有多少卡,只要插上電,AI就能跑起來,也不用擔心基礎設施的賬單出現天文數字。

      實現這一目標,只能靠智算廠商急企業之所急,將可靠性、每token成本、TCO等指標,同步納入超節點的研發技術路線圖。別忘了,讓企業用AI更省,才是超節點技術的核心價值,也是商業成功的前提。

      聲明:個人原創,僅供參考

      特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

      Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

      相關推薦
      熱點推薦
      南京某報對李亞鵬的猜疑報道,為何既造不了殺傷還引來了眾怒?

      南京某報對李亞鵬的猜疑報道,為何既造不了殺傷還引來了眾怒?

      社會日日鮮
      2026-02-02 12:39:27
      重磅:美國48小時內攻擊伊朗?林肯號航母進入作戰狀態

      重磅:美國48小時內攻擊伊朗?林肯號航母進入作戰狀態

      項鵬飛
      2026-02-02 16:21:02
      劇版《西虹市首富》首波口碑出爐了!觀眾打分評價都“一針見血”

      劇版《西虹市首富》首波口碑出爐了!觀眾打分評價都“一針見血”

      娛樂圈筆娛君
      2026-02-02 13:59:09
      驚爆!大S周年祭,S家族竟把緬懷變成“流量鬧劇”!

      驚爆!大S周年祭,S家族竟把緬懷變成“流量鬧劇”!

      白色得季節
      2026-02-02 10:00:56
      懂得穿搭的女人才知道用彩色單品去襯托自己的美麗

      懂得穿搭的女人才知道用彩色單品去襯托自己的美麗

      美女穿搭分享
      2026-02-01 16:50:05
      出頭鳥來了!印度明確宣布!

      出頭鳥來了!印度明確宣布!

      達文西看世界
      2026-02-02 14:40:46
      不要相信!是騙局!東莞街頭現新套路,已有人被騙…

      不要相信!是騙局!東莞街頭現新套路,已有人被騙…

      東莞好生活
      2026-02-02 15:35:38
      35歲陳學冬現狀:兩年4次手術,11部作品被下架,今生活無法自理

      35歲陳學冬現狀:兩年4次手術,11部作品被下架,今生活無法自理

      小徐講八卦
      2026-01-31 18:50:03
      臺灣空軍退役副司令:兩岸若是真要打的話,就要以大陸為主戰場!

      臺灣空軍退役副司令:兩岸若是真要打的話,就要以大陸為主戰場!

      秘密即將揭曉
      2026-02-03 07:03:58
      令人發指!前英國王子安德魯四肢著地跪爬在女子身上!愛潑斯坦文件持續公開,英首相呼吁安德魯向美國會做證

      令人發指!前英國王子安德魯四肢著地跪爬在女子身上!愛潑斯坦文件持續公開,英首相呼吁安德魯向美國會做證

      縱相新聞
      2026-02-01 19:09:12
      掙錢多,大部分俄羅斯人仍支持戰爭!斯特列科夫對克宮“大不敬”

      掙錢多,大部分俄羅斯人仍支持戰爭!斯特列科夫對克宮“大不敬”

      鷹眼Defence
      2026-02-02 20:14:53
      全是假的!涉及多個品牌,檢測結果觸目驚心!很多人家里老人、小孩都在吃...

      全是假的!涉及多個品牌,檢測結果觸目驚心!很多人家里老人、小孩都在吃...

      上觀新聞
      2026-02-01 18:29:09
      跟學歷低的妹子談戀愛是什么體驗?如果你被她吸引,不妨放下預設

      跟學歷低的妹子談戀愛是什么體驗?如果你被她吸引,不妨放下預設

      另子維愛讀史
      2026-01-09 22:06:39
      皇馬主席考慮讓前切爾西、曼聯、國米主帥穆里尼奧,長期執教皇馬

      皇馬主席考慮讓前切爾西、曼聯、國米主帥穆里尼奧,長期執教皇馬

      福醬的小時光
      2026-02-02 18:22:32
      開年就封殺!從網紅頂流到人人驅趕,房車為啥成了城市“公敵”

      開年就封殺!從網紅頂流到人人驅趕,房車為啥成了城市“公敵”

      窺史
      2026-01-31 22:45:04
      重慶一中學家委會負責人要求每人交263.3元,再換成現金給班主任且使用明細不公示 ,家長報警

      重慶一中學家委會負責人要求每人交263.3元,再換成現金給班主任且使用明細不公示 ,家長報警

      揚子晚報
      2026-01-31 20:22:18
      周深:新年巡演審批通過,創下三大歷史記錄|小道會

      周深:新年巡演審批通過,創下三大歷史記錄|小道會

      陳意小可愛
      2026-02-02 20:43:10
      大齡剩女崩潰的瞬間是什么時候?網友:多年的舔狗突然結婚

      大齡剩女崩潰的瞬間是什么時候?網友:多年的舔狗突然結婚

      夜深愛雜談
      2026-01-20 18:56:34
      質疑263.3元亂收費遭班主任踢出群 重慶家長維權 官方定調

      質疑263.3元亂收費遭班主任踢出群 重慶家長維權 官方定調

      周道社會百態
      2026-02-02 18:22:29
      TA:在皇馬拒絕放人后弗蘭-加西亞要求單獨訓練,同樣被拒絕

      TA:在皇馬拒絕放人后弗蘭-加西亞要求單獨訓練,同樣被拒絕

      懂球帝
      2026-02-03 02:22:35
      2026-02-03 08:35:00
      腦極體 incentive-icons
      腦極體
      從智能密鑰到已知盡頭
      3584文章數 167298關注度
      往期回顧 全部

      科技要聞

      馬斯克官宣,SpaceX并購xAI,打造天基算力

      頭條要聞

      河北72歲老太牙疼去醫院治療不到一小時死亡 醫院回應

      頭條要聞

      河北72歲老太牙疼去醫院治療不到一小時死亡 醫院回應

      體育要聞

      澳網男單決賽,屬于阿爾卡拉斯的加冕儀式

      娛樂要聞

      57歲音樂人袁惟仁去世,家屬發文悼念

      財經要聞

      金銀暴跌 全球股市遭遇“黑色星期一”

      汽車要聞

      雷克薩斯LC500將于今年底停產 "最美雷克薩斯"謝幕

      態度原創

      本地
      健康
      藝術
      手機
      公開課

      本地新聞

      云游中國|撥開云霧,巫山每幀都是航拍大片

      耳石癥分類型,癥狀大不同

      藝術要聞

      曾經的年畫,難得一見!

      手機要聞

      去蘋果店AirDrop拷貝Final Cut Pro的“騷操作”,以后行不通了

      公開課

      李玫瑾:為什么性格比能力更重要?

      無障礙瀏覽 進入關懷版