從AI試點(diǎn)到AI生產(chǎn)：擺脫AI試點(diǎn)陷阱

企業(yè)對(duì)人工智能的興趣從未如此高漲。董事會(huì)在要求部署AI，業(yè)務(wù)部門(mén)在試點(diǎn)AI項(xiàng)目，數(shù)據(jù)科學(xué)團(tuán)隊(duì)正在快速實(shí)驗(yàn)各種模型。

然而，對(duì)于許多組織來(lái)說(shuō)，AI仍然頑固地停留在試點(diǎn)階段。

這種雄心與現(xiàn)實(shí)之間的差距正在成為當(dāng)前AI時(shí)代的一個(gè)決定性矛盾。概念驗(yàn)證項(xiàng)目不斷增加，但根據(jù)IDC的數(shù)據(jù)，70%的企業(yè)AI項(xiàng)目從未進(jìn)入持久、可重復(fù)的生產(chǎn)階段。表面上看似有進(jìn)展，往往掩蓋了一個(gè)更深層的問(wèn)題：運(yùn)營(yíng)準(zhǔn)備度沒(méi)有跟上實(shí)驗(yàn)的步伐。

這種"AI試點(diǎn)陷阱"并非由于缺乏想法或算法造成。它是由從未設(shè)計(jì)用于AI工業(yè)化的基礎(chǔ)設(shè)施和運(yùn)營(yíng)模式造成的。

AI工作負(fù)載一旦超越實(shí)驗(yàn)階段就會(huì)表現(xiàn)出不同的特性。它們對(duì)數(shù)據(jù)需求巨大、高度并行、對(duì)延遲敏感，并且越來(lái)越多地分布在數(shù)據(jù)中心、云端和邊緣位置。試圖用分散的存儲(chǔ)、傳統(tǒng)網(wǎng)絡(luò)和孤立的運(yùn)營(yíng)工具來(lái)支持它們，會(huì)在從數(shù)據(jù)準(zhǔn)備到訓(xùn)練和推理的每個(gè)階段都引入摩擦。

結(jié)果是熟悉的：環(huán)境斷開(kāi)、安全權(quán)衡、成本不可預(yù)測(cè)，以及在提供持續(xù)業(yè)務(wù)價(jià)值之前就停滯的AI計(jì)劃。

越來(lái)越清楚的是，將AI投入生產(chǎn)與其說(shuō)是擴(kuò)展單個(gè)模型，不如說(shuō)是構(gòu)建一個(gè)能夠支持AI作為可重復(fù)工作負(fù)載的運(yùn)營(yíng)基礎(chǔ)。

AI在設(shè)計(jì)上就是混合的，而非選擇

從企業(yè)部署中出現(xiàn)的現(xiàn)實(shí)之一是AI本質(zhì)上是混合的。這不是架構(gòu)偏好，而是一種約束。

訓(xùn)練數(shù)據(jù)通常出于成本、性能或主權(quán)原因存儲(chǔ)在本地。推理越來(lái)越需要在數(shù)據(jù)生成的地方，即邊緣進(jìn)行。公有云發(fā)揮作用，但很少作為唯一的執(zhí)行環(huán)境。

混合已經(jīng)從新興需求演變?yōu)椴豢蓞f(xié)商的要求。

這創(chuàng)造了運(yùn)營(yíng)復(fù)雜性。數(shù)據(jù)管道跨越多個(gè)環(huán)境。模型必須安全移動(dòng)。治理必須保持一致。成本必須保持可見(jiàn)和可控。

許多組織發(fā)現(xiàn)，為傳統(tǒng)應(yīng)用程序或南北流量模式構(gòu)建的基礎(chǔ)設(shè)施無(wú)法跟上。存儲(chǔ)系統(tǒng)難以持續(xù)為加速器提供數(shù)據(jù)。網(wǎng)絡(luò)因東西流量而擁塞。運(yùn)營(yíng)團(tuán)隊(duì)缺乏端到端配置、監(jiān)控和治理AI工作負(fù)載的統(tǒng)一方式。

后果是加速器利用不足、項(xiàng)目延遲，以及IT、數(shù)據(jù)科學(xué)和安全團(tuán)隊(duì)之間摩擦加劇。

數(shù)據(jù)是第一個(gè)瓶頸

AI的成敗基于數(shù)據(jù)質(zhì)量、可訪問(wèn)性和治理。然而，大多數(shù)企業(yè)正在處理分散在傳統(tǒng)陣列、云孤島和特定應(yīng)用程序存儲(chǔ)庫(kù)中的碎片化數(shù)據(jù)資產(chǎn)。

為AI準(zhǔn)備數(shù)據(jù)往往成為過(guò)程中最慢的部分。攝取管道停滯。訓(xùn)練作業(yè)等待I/O。治理控制后期添加，增加了風(fēng)險(xiǎn)和合規(guī)暴露。

非結(jié)構(gòu)化數(shù)據(jù)增長(zhǎng)只會(huì)加劇這個(gè)問(wèn)題。日志、圖像、視頻、傳感器流和文檔壓垮了從未設(shè)計(jì)用于大規(guī)模并行訪問(wèn)的架構(gòu)。

這意味著存儲(chǔ)不是孤立重要的。而是AI需要一個(gè)智能數(shù)據(jù)層，能夠作為集成平臺(tái)的一部分提供吞吐量、彈性和治理。沒(méi)有這個(gè)基礎(chǔ)，加速器就會(huì)閑置，試點(diǎn)就會(huì)保持試點(diǎn)狀態(tài)。

網(wǎng)絡(luò)、邊緣和運(yùn)營(yíng)是同一問(wèn)題的組成部分

AI工作負(fù)載顛覆了傳統(tǒng)的流量假設(shè)。訓(xùn)練和推理在存儲(chǔ)、加速器和服務(wù)之間產(chǎn)生密集的東西流量。延遲和抖動(dòng)直接影響作業(yè)完成時(shí)間，而即使是很小的低效率也可能導(dǎo)致昂貴資源利用不足。

與此同時(shí)，推理越來(lái)越向外移動(dòng)。制造生產(chǎn)線、零售場(chǎng)所、醫(yī)療環(huán)境和交通系統(tǒng)都會(huì)生成數(shù)據(jù)，如果必須經(jīng)過(guò)長(zhǎng)距離傳輸才能做出決策，這些數(shù)據(jù)就會(huì)失去價(jià)值。

這種組合不僅對(duì)基礎(chǔ)設(shè)施組件提出了新要求，也對(duì)它們的運(yùn)營(yíng)方式提出了新要求。手動(dòng)故障排除和斷開(kāi)的工具難以跟上動(dòng)態(tài)擴(kuò)展和持續(xù)運(yùn)行的環(huán)境。

隨著AI環(huán)境在運(yùn)營(yíng)上變得更加復(fù)雜，基于平臺(tái)的方法開(kāi)始比單個(gè)技術(shù)更重要。集成、可觀察性和治理決定了AI是否可以工業(yè)化，而不僅僅是演示。

為什么AI試點(diǎn)難以成為生產(chǎn)系統(tǒng)

當(dāng)組織檢查AI計(jì)劃為何無(wú)法擴(kuò)展時(shí)，會(huì)出現(xiàn)一個(gè)一致的模式。

數(shù)據(jù)分散。存儲(chǔ)性能不一致。網(wǎng)絡(luò)超額訂閱。運(yùn)營(yíng)工具斷開(kāi)。治理不均勻。成本不透明。

每個(gè)問(wèn)題單獨(dú)來(lái)看都是可管理的。但它們結(jié)合在一起，創(chuàng)造了一個(gè)無(wú)法支持AI作為生產(chǎn)級(jí)能力的環(huán)境。

企業(yè)越來(lái)越需要的不是另一個(gè)點(diǎn)解決方案，而是AI的運(yùn)營(yíng)模式。一個(gè)將混合部署視為正常、將數(shù)據(jù)視為基礎(chǔ)、并從一開(kāi)始就將治理和可觀察性嵌入平臺(tái)的模式。

AI工業(yè)化需要企業(yè)應(yīng)用于虛擬化和云采用的同樣紀(jì)律?？芍貜?fù)性很重要。一致性很重要。運(yùn)營(yíng)很重要。

從實(shí)驗(yàn)到AI運(yùn)營(yíng)

隨著企業(yè)從AI實(shí)驗(yàn)轉(zhuǎn)向AI運(yùn)營(yíng)，架構(gòu)選擇開(kāi)始比單個(gè)工具更重要。

在數(shù)據(jù)層，HPE Alletra Storage MP旨在提供一致的吞吐量和可擴(kuò)展性，同時(shí)支持非結(jié)構(gòu)化數(shù)據(jù)增長(zhǎng)和治理要求。HPE Data Fabric Software幫助統(tǒng)一、治理和跨環(huán)境移動(dòng)數(shù)據(jù)，使AI管道能夠從核心到云到邊緣一致運(yùn)行。對(duì)于AI級(jí)計(jì)算，HPE ProLiant和Cray XD系統(tǒng)支持訓(xùn)練和推理，而不引入單獨(dú)的運(yùn)營(yíng)模式。

網(wǎng)絡(luò)和安全通過(guò)HPE Aruba和Juniper AI原生網(wǎng)絡(luò)解決方案解決，支持高性能東西流量和一致的策略執(zhí)行。運(yùn)營(yíng)可見(jiàn)性和控制通過(guò)GreenLake和HPE OpsRamp Software提供，為團(tuán)隊(duì)提供跨環(huán)境配置、監(jiān)控和治理AI工作負(fù)載的統(tǒng)一方式。

對(duì)于希望加速采用的組織，這些能力在經(jīng)過(guò)驗(yàn)證的架構(gòu)和交鑰匙產(chǎn)品（如NVIDIA AI Computing by HPE）中結(jié)合在一起。其他組織則逐步現(xiàn)代化，從數(shù)據(jù)或邊緣推理開(kāi)始，隨時(shí)間擴(kuò)展。底層平臺(tái)支持兩種路徑而不產(chǎn)生碎片化。

實(shí)際結(jié)果是AI擺脫試點(diǎn)陷阱，進(jìn)入可重復(fù)的運(yùn)營(yíng)。價(jià)值實(shí)現(xiàn)時(shí)間加速，成本穩(wěn)定，治理和信任在設(shè)計(jì)上嵌入。由于基礎(chǔ)設(shè)施不再是約束，企業(yè)可以自信地?cái)U(kuò)展AI，將雄心轉(zhuǎn)化為可衡量的業(yè)務(wù)成果。

AI淘金熱是真實(shí)的。將其轉(zhuǎn)化為持久價(jià)值取決于企業(yè)是否構(gòu)建了旨在AI工業(yè)化而非僅僅實(shí)驗(yàn)的平臺(tái)。

Q&A

Q1：什么是AI試點(diǎn)陷阱？

A：AI試點(diǎn)陷阱是指企業(yè)AI項(xiàng)目停留在試點(diǎn)階段無(wú)法進(jìn)入生產(chǎn)的現(xiàn)象。根據(jù)IDC數(shù)據(jù)，70%的企業(yè)AI項(xiàng)目從未進(jìn)入持久、可重復(fù)的生產(chǎn)階段。這主要是由于基礎(chǔ)設(shè)施和運(yùn)營(yíng)模式?jīng)]有為AI工業(yè)化做好準(zhǔn)備，而非缺乏想法或算法。

Q2：為什么AI工作負(fù)載需要混合架構(gòu)？

A：AI在設(shè)計(jì)上就是混合的，這是約束而非選擇。訓(xùn)練數(shù)據(jù)通常出于成本、性能或主權(quán)原因存儲(chǔ)在本地，推理需要在數(shù)據(jù)生成的邊緣進(jìn)行，公有云發(fā)揮作用但很少作為唯一執(zhí)行環(huán)境。這種混合需求已從新興要求演變?yōu)椴豢蓞f(xié)商的必需。

Q3：如何解決AI項(xiàng)目從試點(diǎn)到生產(chǎn)的問(wèn)題？

A：需要構(gòu)建AI運(yùn)營(yíng)模式而非點(diǎn)解決方案。這包括統(tǒng)一的數(shù)據(jù)層、AI級(jí)計(jì)算平臺(tái)、AI原生網(wǎng)絡(luò)解決方案，以及統(tǒng)一的運(yùn)營(yíng)可見(jiàn)性和控制。關(guān)鍵是將混合部署視為正常，將數(shù)據(jù)視為基礎(chǔ)，并從開(kāi)始就嵌入治理和可觀察性。