AI技術快速迭代迫使企業每90天重構技術棧

AI技術的快速迭代正在成為企業面臨的重大挑戰，企業發現自己需要不斷重構AI基礎設施，以應對不斷發展的AI能力和變化的AI策略。

根據AI數據質量供應商Cleanlab的一項調查，70%的受監管企業和41%的非監管企業每三個月至少更換部分AI技術棧，另有四分之一的受監管和非監管公司每六個月進行更新。

這項調查涵蓋了1800多名軟件工程領導者，凸顯了組織在跟上不斷變化的AI領域和將智能體部署到生產環境中時仍面臨困難。Cleanlab首席執行官Curtis Northcutt表示，調查結果表明企業在這兩方面都存在挑戰。

智能體部署現狀令人擔憂

調查顯示，僅有5%的受訪者擁有生產環境中的智能體或計劃很快將其投入生產。基于受訪工程師對技術挑戰的回答，Cleanlab估計只有1%的代表性企業已將智能體部署到試點階段之外。

"企業智能體根本沒有到位，它們遠未達到人們所說的水平，"Northcutt說道。"實際上有數百家初創公司試圖為企業銷售智能體組件，但都失敗了。"

即使沒有達到完全的生產狀態，許多組織每隔幾個月就重建其智能體技術棧組件的事實不僅證明了AI領域變化的速度，也表明了對智能體結果缺乏信心。

智能體技術棧的變化范圍從簡單的底層AI模型版本更新，到從閉源模型遷移到開源模型，或改變存儲智能體數據的數據庫。在許多情況下，更換棧中的一個組件會引發下游的連鎖變化。

語音AI提供商Cozmo AI的聯合創始人兼首席技術官Nuha Hashem也觀察到智能體技術棧頻繁變化的模式。她表示，Cleanlab的調查結果與Cozmo在受監管環境中看到的變動情況相符。

"許多客戶團隊每季度都會更換棧的部分組件，因為早期設置往往是一個拼湊而成的系統，在測試中表現為一種方式，在生產中卻表現為另一種方式，"她補充說。"庫或路由規則的小變化都可能改變智能體處理任務的方式，這會強制進行另一次重建。"

技術演進帶來的挑戰

雖然AI演進的速度可能推動頻繁的重建，但問題的一部分在于AI模型的調整方式。Hashem解釋說："更深層的問題是許多智能體系統依賴于模型內部的行為，而不是清晰的規則。當模型更新時，行為會發生偏移。當團隊為智能體設置清晰的步驟和檢查時，棧可以在不斷破壞的情況下演進。"

另一個問題似乎是對AI棧現有組件的滿意度較低。Cleanlab調查詢問了用戶對智能體基礎設施幾個組件的體驗，包括智能體編排、快速推理和可觀測性。在列出的五個組件中，只有約三分之一的受訪者表示對其中任何一個感到滿意，約40%的人表示正在尋找每個組件的替代方案。

只有28%的受訪者對他們現有的智能體安全和防護措施感到滿意，這表明對智能體結果缺乏信任。

行業專家的觀點

雖然Cleanlab的調查可能描繪了智能體當前狀態的暗淡圖景，但幾位AI專家表示其結論似乎是準確的。

基于AI的客戶體驗提供商Laivly的首席執行官Jeff Fettes對許多企業每隔幾個月重建部分智能體棧并不感到驚訝。他看到了類似的現象。

"在AI方面更成功的組織的區別在于他們的迭代能力，"他說。"你在那里看到的是公司沒有放棄舊的做事方式，他們真的很難跟上AI技術本身演進的速度。"

對于大多數其他主要IT平臺，首席信息官會經歷漫長的評估和部署過程，但AI進步的速度已經破壞了這個時間表。Fettes說："IT部門過去會經歷大的規劃弧線，然后轉換他們的技術棧，這會在一段時間內保持良好狀態。現在，他們發現自己走了一半——或者剛走了一小段——規劃過程，技術已經發展得如此之遠，他們必須重新開始。"

Fettes看到許多客戶隨著技術的發展而放棄AI試點項目。"這創造了一種情況，許多公司必須放棄現有的用例，"他說。"我們知道我們正在很短的時間內淘汰我們自己的技術。"

應對策略和建議

應用開發公司Tapforce的聯合創始人兼首席技術官Artur Balabanskyy表示，該公司也看到企業每隔幾個月重建其AI棧，這是由持續演進推動的。

"現在有效的東西以后可能會變得次優，"他說。"如果組織不積極跟上時代并刷新他們的棧，他們就有在性能、安全性和可靠性方面落后的風險。"

然而，Balabanskyy補充說，持續的重建不必創造混亂。他建議首席信息官對其智能體棧采取分層方法，包括強大的版本控制、持續監控和模塊化部署方法。

"模塊化架構允許領導者在必要時破壞完整棧以及更換組件，"他說。"防護措施、自動化測試和可觀測性對于確保生產系統即使在技術演進時也保持可靠都是至關重要的。"

Cleanlab的Northcutt建議IT領導者在部署前經歷一個嚴格的過程，包括詳細描述智能體預期要做什么的先決條件。

"人們會說，'讓AI做客戶支持'，這是一個非常高層次的事情，"他說。"第一步是，'讓我們非常精確地定義，AI從哪里開始？我們期望良好的性能是什么樣子？我們期望它完成什么？它實際上要使用什么工具？'"

調查結果表明，智能體的廣泛部署可能仍需數年時間。Northcutt預測，估計1%擁有生產環境智能體的組織將在2027年上升到3%或4%，真正的生產智能體將在2030年達到30%的企業。

他相信智能體將帶來重大好處，但他敦促支持者在此期間減少他們的夸大言論。"我們現在可以使用AI來提高我們的工作，但企業AI自動化一切和每個產品中都有智能體的整個想法，它正在到來，"他說。"如果我們能保持冷靜，設定合理的期望，那么所有投資的資金可能真正發揮作用。"

Q&A

Q1：為什么企業需要頻繁重構AI技術棧？

A：主要原因是AI技術演進速度極快，企業需要不斷適應新的AI能力和變化的策略。調查顯示70%的受監管企業每三個月至少更換部分AI技術棧，這反映了AI領域變化的速度和企業對智能體結果缺乏信心。

Q2：企業智能體的部署情況如何？

A：目前企業智能體部署狀況不理想。調查顯示僅有5%的受訪者在生產環境中擁有智能體或計劃很快部署，估計只有1%的企業已將智能體部署超出試點階段，預計2030年才能達到30%的企業真正部署。

Q3：如何減少AI技術棧頻繁重建帶來的混亂？

A：專家建議采用分層方法，包括強大的版本控制、持續監控和模塊化部署。模塊化架構允許在必要時更換組件而不破壞整個系統，同時需要建立防護措施、自動化測試和可觀測性來確保系統可靠性。