企業級AI PC的核心要求：不只是NPU性能

人工智能在企業技術領域已經無處不在，但AI PC是否真正普及仍是一個懸而未決的問題。

事實上，大多數企業個人設備都在運行包含AI元素的應用程序或服務。但這并不意味著它們真正針對支持AI進行了定制或調優，尤其是當這些服務在設備本身上運行時。

給定的客戶端設備可能擁有大量的處理能力，理論上可以運行小型語言模型或處理大量數據。但如果這意味著電池在一小時內耗盡，或者運行快速安全掃描會讓設備變慢，用戶的體驗并不會更好，特別是在企業工作負載方面。

那么，我們如何識別真正有能力的AI PC，以及我們可以期望在其內部找到什么？

微軟Copilot+PC標準的啟示

微軟的Copilot功能可以說是企業中部署最廣泛的生成式AI技術。因此，其Copilot+ PC定義是確定AI PC需要提供什么的良好起點。

除了Windows 11 PC的最低要求（包括1GHz CPU和可信平臺模塊v2.0）之外，Copilot+標準還要求至少16GB DRAM、256GB SSD存儲和能夠每秒執行超過40萬億次操作（TOPS）的神經處理單元。

毫無疑問，這是一個強大的基線，但在快速發展的市場中，這對于企業用戶從自己的筆記本電腦中獲得AI的全部好處是否足夠？

英特爾合作伙伴技術銷售專家Jimmy Wai表示，在支持企業AI方面，僅僅專注于NPU是不夠的。"這關乎CPU、GPU和NPU，因為這些組件中的每一個都擅長某些AI任務，"他說。

因此，在提供最佳企業AI體驗方面，"這真的取決于工作負載是什么，開發人員可以選擇最佳的xPU來運行他們的工作負載。"

雖然Copilot或生成式AI任務可能會給NPU施加沉重負載，但他說，其他關鍵工作負載將調用其他組件。

Zoom或其他協作平臺等圖形密集型服務會給圖形組件或CPU帶來沉重負擔。但它們也會利用NPU來支持伴隨的AI助手功能。同樣，內存中的安全掃描可能會對GPU或CPU造成負擔。雖然GPU對于構建語言模型或訓練至關重要，但實時推理工作通常最好由CPU處理。

所有這些的基礎是能源問題。AI工作負載通常很密集。同時，能夠依靠電池電力完成一整天工作的能力是企業用戶的關鍵目標。這不再意味著僅僅支持用于文字處理或電子表格的標準桌面軟件包。現在的一整天工作可能涉及多個視頻會話、大量使用Copilot或其他生成式AI工具，以及密集的數據處理。

超越TOPS基準

一旦理解了這一點，就很清楚僅靠NPU性能不一定能滿足企業AI在現實世界中對客戶端硬件施加的各種需求。

Wai解釋說，正是這種需求和工作負載的結合影響了英特爾第二代Core Ultra處理器的最新迭代，它超越了Copilot+設定的40 TOPS基線。

"我們專注于成為一個真正節能的移動平臺，能夠為客戶提供真正出色的性能，"他說。"但同時也有非常低的能耗包絡。"

除了多達十個x86核心（四個性能核心、四個效率核心和兩個低功耗效率核心）之外，該平臺的瓦片架構還搭載了多達八個Intel Arc Graphics Xe圖形核心和一個Intel AI Boost NPU。

NPU本身提供48 TOPS，輕松超過了Copilot+針對AI助手任務的基線。但整個平臺提供120 TOPS，其中CPU貢獻5個，圖形軟件包貢獻67個。

這種聚合處理能力意味著它可以在Copilot+定義下支持關鍵AI工作負載，而不會在更廣泛的企業任務方面妥協性能。

例如，CPU的5 TOPS意味著它可以輕松處理實時推理工作——這個角色通常由CPU比其他組件更高效地處理。同樣，GPU的67 TOPS除了支持視頻任務外，還使安全掃描更加高效，大大減輕了CPU的負載。

與此同時，整個軟件包都經過節能設計。它基于臺積電的3納米節點構建，像任何工藝收縮一樣提高了能效。x86核心提供更精細的時鐘速度管理，而不是簡單地以100MHz增量上下調節。

"通過更精細的時鐘頻率，你可以真正針對工作負載進行微調，"Wai說。

另一個重大突破是DRAM直接集成到封裝上，可選擇16GB或32GB，這進一步提高了能效，同時也增強了安全性。

作為企業平臺，它支持英特爾的vPro技術，該技術提供英特爾主動管理技術。這允許系統被遠程管理和支持，即使操作系統無法訪問時也是如此。Wai解釋說，在發生違規或重大停機事件時，這變得至關重要，允許支持團隊到達受影響的客戶端設備并幫助它們恢復。"去年的藍色星期五就是一個很好的例子。"

軟件集成

但AI不僅僅關乎硬件。Wai指出，英特爾支持常見的AI開發框架，并與獨立軟件供應商密切合作來定制系統，確保整體兼容性，以及他們的產品可以最優地使用架構。因此，他們不需要將自己鎖定在軟件圍墻花園中來充分利用平臺。

這確保了客戶端設備的能效，但通過減少數據上傳到云端進行處理的需求，它提高了安全性并減少了軟件和服務提供商的能源和資源負擔。

同樣，Wai說，英特爾的平臺自然是原生x86。一些較新的PC平臺需要應用程序轉換，這會消耗資源和能源。Wai指出，這些兼容性問題在需要直接訪問硬件的驅動程序方面，如果有的話，是一個更大的問題。這對于企業來說可能是一個沖擊，在過去幾十年中，他們已經習慣了外圍設備和其他組件的即插即用。

Wai說，所有這些的結果是，企業用戶在基于第二代Core Ultra的系統上將獲得更響應的體驗。

但更重要的是，用戶獲得了大大改善的電池壽命。這包括企業版本，通常會引入更多后臺進程，無論是用于DRM、安全、設備管理還是策略執行。

"我們從客戶那里聽到很多反饋，他們終于可以讓筆記本電腦持續一整天，"Wai說。"即使是企業版本。"

這對于許多仍在制定更廣泛AI策略的公司來說可能顯得學術化。但他們必須確切了解讓員工從技術中受益需要什么。

"那么，你想在未來運行什么？你有路線圖嗎，或者你有想要運行的目標軟件嗎？"Wai問道。"如果有，那么你需要確保你購買的產品能夠運行這些工作負載。"

但他繼續說，"如果你現在沒有目標并且想要做好準備，那么你最好尋找能為未來提供最佳靈活性和競爭兼容性的AI PC平臺。"因為未來比你想象的要來得更快。

Q&A

Q1：什么是真正的企業級AI PC？

A：真正的企業級AI PC不僅僅是擁有強大的NPU，而是需要CPU、GPU和NPU協同工作。它必須能夠處理多種AI工作負載，包括實時推理、圖形密集型協作應用和安全掃描，同時保持全天的電池續航能力。

Q2：英特爾第二代Core Ultra處理器有什么特別之處？

A：該處理器提供總計120 TOPS的處理能力，其中NPU 48 TOPS、GPU 67 TOPS、CPU 5 TOPS，遠超Copilot+的40 TOPS基線。它采用3納米工藝，支持更精細的時鐘管理，并集成DRAM以提高能效和安全性。

Q3：為什么企業需要考慮AI PC的兼容性？

A：企業AI策略正在快速發展，需要支持各種AI框架和應用。原生x86架構避免了應用程序轉換的資源消耗，同時vPro技術提供遠程管理能力，這在系統故障時至關重要。選擇具有最佳靈活性和兼容性的平臺能為未來做好準備。