AI企業落地2024：支出超5倍，Code Copilots是采用最多的AI應用

2024年，AI落地的真實情況是什么？

投資過Anthropic、Uber、Roku、Siri等公司的美國老牌VC「Menlo Ventures」的調查顯示：

2024年，企業的AI支出達到了138億美金，是去年23億美金的6倍。而且，AI Coding相關產品的采用率達到了51%。

這份報告的數據，來自Menlo Ventures近期對600名企業IT決策者進行的調查。這些樣本企業的規模不算小，每家最少擁有50名員工。

Menlo，是成立于1976年的風險投資與私募股權公司，總部位于舊金山，創造了超過100億美元的回報。

Menlo簡介這兩年它加大了對新一代人工智能初創公司的投資，典型案例包括Anthropic、Pinecone、Typeface、Sana等。

Menlo的AI投資案例今年7月 ，Menlo 還與Anthropic 聯手設立一項名為“Anthology Fund”的 1 億美元基金，用于投資種子前、種子期和 A 輪的 AI 初創公司。Anthology Fund 的資金是從 Menlo 最新的 13.5 億美元投資基金中分拆出來的。

它將為初創企業提供10萬美元起步的投資，以及25萬美元的信用額度以使用Anthropic的模型。2023年，Menlo首次發布了《企業中生成AI的現狀報告》。在2024年的同題報告中，Menlo進行了兩年的數據對比。報告還提示了AI 最有價值的 4 個應用場景，以及三個未來預測。

值得關注的數據

• 2024年企業在 AI 的支出達到了 138 億美金，是去年 23 億美金的 6 倍。
• 72% 的決策者預計在不久的將來，生成式人工智能工具將會被更廣泛地使用。
• 超過三分之一的受訪者對如何在組織內實施生成式AI并沒有沒有清晰的愿景。
• 企業買家在 2024 年向生成式 AI 應用投入了 46 億美元，幾乎比去年報告的 6 億美元增長了 8 倍。
• 閉源解決方案占據了絕大多數市場份額，達到 81%，而開源替代方案（以 Meta 的 Llama 3 為首）則穩定在 19%，與 2023 年相比僅下降了一個百分點。
• OpenAI 企業市場份額從 50% 降至 34%。Anthropic 的企業市場份額從 12% 倍增到 24%。
• 企業對生成式 AI 的投資有 60% 來自創新預算，這反映出生成式 AI 的應用尚處于早期階段。但仍有40% 的生成式 AI 支出來自更長期的預算（其中 58% 是從現有撥款中重新分配的），企業對 AI 轉型的承諾日益堅定。

AI 最有價值的4個應用場景排名

Top 1： Code Copilots，采用率 51% ，它使開發人員成為 AI 最早的高級用戶。GitHub Copilot 迅速攀升至 3 億美元的營業收入說明了Code Copilots的迅速發展， Codeium 和 Cursor 等新興工具同樣也在快速增長。除了通用的編碼助手之外，企業還會購買特定任務的 Copilot，比如Harness，這類用于管道生成和測試自動化的 AI DevOps Engineer 和 QA Assistant工具，以及 All Hands，這類能夠執行更多端到端軟件開發的AI 代理。

• Top 2: 支持性AI 對話機器人（Support chatbots ），采用率31%。這些應用程序為企業內部員工和外部客戶提供可靠的、全天候的、知識型內容的支持。Aisera、Decagon 和 Sierra 的代理直接與終端客戶互動，而 Observe AI 則在通話期間為聯絡中心的坐席人員提供實時指導。

• Top 3: 企業搜索及檢索&數據提取和轉換（Enterprise search + retrieval and data extraction + transformation)，采用率分別是28% and 27%。這反映出企業有強烈的渴望，希望可以挖掘和利用分散在組織中各類數據孤島中隱藏的寶貴知識。這里面代表的AI 應用有Glean 和 Sana，它們的解決方案可連接到電子郵件、即時通訊和文檔存儲，從而實現跨不同系統的統一語義搜索，并提供由 AI 驅動的知識管理。

• Top 4: 會議總結（Meeting summarization ），采用率25%。通過AI驅動的軟件自動記錄筆記和總結摘要，可以節省時間并提高工作效率。比如，Fireflies.ai 、Otter.a i和 Sana 等工具可以捕獲和總結在線會議； Fathom 可以從視頻中提取要點；Eleos Health 則主要應用于于醫療保健，它可以自動完成數小時的文檔記錄并與 EHR 直接集成，讓醫療保健提供者可以更專注于患者護理。

三個預測

1. Agents 代理將推動下一波人工智能轉型。未來，人工智能需要解決復雜、多步驟的任務，這些任務超出了當前專注于內容生成和知識檢索的系統的能力。Clay 和 Forge 等平臺已經讓人們看到高級代理將如何顛覆價值 4000 億美元的軟件市場，并蠶食價值 10 萬億美元的美國服務經濟。這種轉變將需要新的基礎設施：代理身份驗證、工具集成平臺、人工智能瀏覽器框架以及人工智能生成代碼的專用運行環境。
2. 更多現有老牌企業將倒下。ChatGPT 今年對 Chegg 和 Stack Overflow 的顛覆給老玩家們敲響了警鐘：Chegg 85% 的市值消失了，而 Stack Overflow 的網絡流量則減少了一半。其他類別的AI產品顛覆老玩家的時機也已成熟，比如 Cognizant 這樣的 IT 外包公司和 UiPath 這樣的傳統自動化企業應該做好準備，迎接原生人工智能挑戰者進入他們的市場。隨著時間的推移，甚至像 Salesforce 和 Autodesk 這樣的軟件巨頭也將面臨原生人工智能的挑戰。
3. 人工智能人才荒愈演愈烈，暫時看不到緩解的跡象。現在我們正處于大規模人才荒的邊緣，隨著人工智能系統的激增，產品日益復雜，科技行業將面臨嚴重的人才匱乏問題。短缺的不僅僅是數據科學家，還有能夠將先進的人工智能與特定領域專業知識相結合的專家。人才儲備已經少得可憐，競爭將急劇加劇，已經高薪聘請的人工智能企業架構師的薪酬將提高 2-3 倍，也將成為一種常態。盡管企業對培訓計劃和人工智能卓越中心進行了投資，但人才缺口將超過這些努力帶來的人才供給，從而加劇對推動下一波人工智能創新所需的有限人才的激烈競爭。

報告還揭示了生成式AI在企業落地的現狀和趨勢，具體如下：

企業采用現狀

• 代理和自動化：人工智能掌控一切 。當前的情況表明，人們更傾向于使用AI增強人工工作流程，而不是完全自動化，但也正在向更自主的解決方案過渡。能夠獨立管理復雜端到端流程的人工智能Agents的早期案例正在各個行業涌現。比如金融后臺工作流程中的 Forge 和Sema4 等以及 Clay 。

• 自行開發還是購買？具體問題具體分析 。在決定自建還是購買時，企業發現兩者的比例幾乎持平的，有47% 的解決方案是內部開發的，另 53% 的解決方案來自供應商。這與 2023 年相比發生了明顯變化，當時Menlo的報告稱 80% 的企業依賴第三方生成式 AI 軟件，這表明許多企業越來越有信心和能力建立自己的內部 AI 工具，而不是主要依賴外部供應商。

• 企業在采用生成式人工智能時優先考慮價值而非短期利益。在選擇生成式 AI 應用程序時，企業有明確表示投資回報率和行業特定定制，在選擇新工具時最為重要。價格并不是主要問題；只有 1% 的人提到價格是選擇時需要考慮的問題。買家正在打持久戰：與提供最低價格（1%）的工具相比，他們更關注能夠提供可衡量價值（30%）和能為其工作進行個性化 （26%）的工具。而在失敗案例的分析中，26% 的失敗案例提到實施成本，21%提及了數據隱私障礙，18%則提到了令人失望的投資回報率 (ROI)（18%）。技術上，幻覺（15%）是失敗的主要原因。在規劃和選擇階段主動解決這些潛在陷阱可以增加成功實施的可能性。

• 現有企業更容易受到初創企業的干擾。去年，現有企業通過“附加”戰略主導了企業市場，即將生成式 AI 功能附加到現有產品上。當時，Menlo曾預測初創公司將日益占據優勢，今年的數據證實了這一想法：雖然 64% 的客戶仍然喜歡從現有供應商處購買產品，理由是信任和開箱即用的功能，但現有企業的主導地位開始出現變化。18% 的決策者對現有產品表示失望；而 40% 的人質疑他們目前的解決方案是否真正滿足他們的需求，這表明創新型初創公司有機會介入并占據一席之地。

• AI轉型在各個部門進行。今年，生成式人工智能的預算流向了每個部門。技術部門占仍據了最大的支出份額，其中 IT（22%）、產品 + 工程（19%）和數據科學（8%）合計占企業生成式 AI 投資的近一半。剩余預算分布在面向客戶的職能部門，例如支持（9%）、銷售（8%）和營銷（7%）、包括人力資源和財務在內的后臺團隊（各占 7%）以及設計（6%）和法律（3%）等較小的部門。

• 垂直人工智能應用正興起。第一批生成式 AI 應用是用于文本和圖像生成的橫向解決方案，但到 2024 年，越來越多的應用開始將 LLM 的新功能應用于高度特定領域的垂直化工作流程。醫療保健（5 億美元的企業支出）、法律（企業在 AI 上的支出達 3.5 億美元））、金融服務（企業在 AI 上的支出達 1 億美元））、媒體和娛樂（企業在人工智能方面的支出達 1 億美元）行業中都有優秀企業進入，發展也較為迅速。

• 基礎設施和人工智能堆棧在 2024 年趨于穩定。企業圍繞構成大多數生產 AI 系統運行時架構的核心構建塊進行凝聚。礎模型仍占主導地位。LLM 層吸引了 65 億美元的企業投資。然而，通過反復試驗，企業越來越認識到數據支架和集成在構建復雜的復合 AI 架構方面的重要性，這些架構可以在生產中可靠地運行，而不僅僅是一次性的演示。

趨勢

• LLM 趨勢：多模型戰略占上風，OpenAI 讓位于 Anthropic企業不再依賴單一的供應商，而是采用了務實的多模型方法。研究表明，企業通常會在其人工智能堆棧中部署三種或三種以上的基礎模型，并根據用例或結果選擇不同的模型。這種策略延伸到了開放源代碼與封閉源代碼的爭論中，盡管行業討論激烈，但人們對開放源代碼與封閉源代碼的偏好一直保持穩定。閉源解決方案占據了絕大多數市場份額，達到 81%，而開源方案（以 Meta 的 Llama 3 為首）則穩定在 19%，與 2023 年相比僅下降了一個百分點。在閉源模型中，OpenAI 的先發優勢有所削弱，企業市場份額從 50% 降至 34%。Anthropic 是主要受益者，它的企業市場份額從 12% 倍增到 24%，因為一些企業在 Claude 3.5 Sonnet 成為最先進模型后，從 GPT-4 轉向了 Claude 3.5 Sonnet。在轉向新的 LLM 時，企業最常見的動機是安全考慮（46%）、價格（44%）、性能（42%）和擴展功能（41%）。

• 設計模式趨勢：RAG 增勢迅猛，微調采用率下降，Agent異軍突起RAG（檢索增強生成）目前占主導地位，采用率為 51%，比去年的 31% 大幅上升。而經常被吹捧的微調，仍然少得令人吃驚，只有 9% 的生產模型進行了微調。代理架構首次亮相，已經為 12% 的應用提供了動力。

• 向量數據庫、ETL 和數據管道：人工智能優先的解決方案仍在不斷壯大要為 RAG 提供動力，企業必須高效地存儲和訪問相關的查詢知識。盡管 Postgres（15%）和 MongoDB（14%）等傳統數據庫仍很常見，但人工智能優先的解決方案仍在不斷壯大。比如Pinecone ，這款人工智能原生向量數據庫，已經占據了 18% 的市場份額。傳統的 ETL平臺（如Azure Document Intelligence）仍然占據了28%的部署份額，但 Unstructured 等旨在處理 PDF 和 HTML 等文檔中的非結構化數據的細微差別的專業工具，正在開辟自己的空間，占據了16%的市場份額。

最后Menlo認為這僅僅是個開始，人工智能正在為新時代的轉型鋪平道路，這一時代由尖端的人工智能工具、賦能的勞動力和變革性的商業模式推動，將重塑我們的經濟。