亞馬遜云科技CEO：推理將成為應用未來的核心組件

如果2023年是生成式AI概念的興起之年，吸引到全球各類用戶的關注；那么2024年則是生成式AI的驗證之年，不同行業(yè)的各類用戶均或多或少在不同業(yè)務場景中對生成式AI進行驗證。

無疑，經(jīng)過兩年的發(fā)展之后，生成式AI這項變革性技術正展露出極大的應用潛力。那么，生成式AI接下來會對企業(yè)業(yè)務應用場景產(chǎn)生哪些巨大影響？企業(yè)又應該如何讓生成式AI應用順利融入到生產(chǎn)場景之中？大模型未來又有哪些關鍵的趨勢？

作為云計算領域的頂級盛會，亞馬遜云科技 re：Invent大會一向是云計算、人工智能等前沿技術應用與探索的風向標。對于生成式AI帶來的變革性影響，亞馬遜云科技在2024 re：Invent大會帶來全新的思考與洞察。

正如亞馬遜云科技新CEO Matt Garman在大會所言，生成式AI是一項變革性技術，隨著生成式AI更多進入生產(chǎn)場景，生成式AI將會與各類應用緊密集成，而推理也會成為未來應用中一個極為重要的組件。

與此同時，亞馬遜CEO Andy Jassy也時隔三年再次出現(xiàn)在re：Invent舞臺上。他在大會上宣布了亞馬遜最新多模態(tài)大模型Nova，包括六個基礎模型，支持多模式任務的文本、圖像和視頻處理。Andy Jassy 認為Amazon Nova是提供智能和行業(yè)領先性價比的最先進的新基礎模型。

01

推理將成為未來應用的核心組件

“應用已經(jīng)徹底改變了?！盡att Garman在大會上直言道。

根據(jù)亞馬遜過去多年的構建經(jīng)驗，計算、存儲和數(shù)據(jù)庫通常是應用構建的三大不可或缺核心模塊；但現(xiàn)在，隨著生成式AI的興起和融入，推理正變得愈發(fā)重要，成為構建應用當之無愧的核心組件模塊之一。

在Matt Garman看來，生成式AI具有改變和顛覆每一個行業(yè)的潛力，改變每一個流程、應用體驗，而讓生成式AI真正融入生產(chǎn)應用端，而不是停留在驗證階段，關鍵就是把推理這個核心組件做好。

因此，亞馬遜云科技在今年大會上，著重介紹Bedrock產(chǎn)品的重要性，旨在在產(chǎn)品層上提供高性能、靈活、安全的模型推理服務，顯著降低AI推理的門檻，真正幫助用戶們用最簡單的方法與工具來構建、擴展生成式AI應用。

例如，在Scaling Law的驅(qū)動下，大模型參數(shù)規(guī)模越來越大，但模型規(guī)模并非越大越好，在一些特別的領域或者場景中，往往需要小且快的模型，這也讓模型蒸餾正變得越來越重要。但過去用戶在模型蒸餾往往只能選擇開源大模型，并且需要依靠AI框架和代碼開發(fā)來完成工作，在效率和使用上屬實一言難盡。

為此，亞馬遜云科技在本次大會上推出Amazon Bedrock Model Distilation模型蒸餾功能，選擇自己想要的模型去契合場景使用需求，更能夠讓模型運行速度大幅提升、成本大幅下降。

又如，哪怕是再好的大模型，也需要面臨幻覺的挑戰(zhàn)。當生成式AI進入到現(xiàn)實生產(chǎn)場景，用戶不可避免地會遇到幻覺問題，這也是當前用戶們對于模型在生產(chǎn)場景中應用的顧慮所在。亞馬遜云科技的思路是自動推理檢查，通過Amazon Bedrock Automated Reasoning checks來檢查推理是否正確，防止事實錯誤、模型幻覺等出現(xiàn)。

再如，AI Agent是生成式AI應用的巨大價值所在。在單一、簡單的工作任務重，AI Agent已經(jīng)能夠勝任，但是面對復雜任務時，數(shù)百個任務并行處理則帶來的極為復雜的工作流，需要多個代理進行協(xié)同。為此，亞馬遜云科技打造了Amazon Bedrock multi-agent Collaboration，支持多代理的復雜工作流程。

除了上述功能之外，亞馬遜云科技在此次大會上還發(fā)布了不少于Amazon Bedrock相關功能。可以看出，隨著生成式AI融入生產(chǎn)應用中，推理在未來將會無處不在，幫助用戶真正做好推理的意義重大，而亞馬遜云科技正在不斷圍繞Amazon Bedrock構建起越來越豐富的功能，以滿足用戶們在推理中遇到的各色各樣的需求，從而加速推動生成式AI在生產(chǎn)場景的應用。

02

亞馬遜最新大模型Amazon Nova亮相

在本次大會上，亞馬遜CEO Andy Jassy的出現(xiàn)可謂是一大驚喜，這是他在三年之后重返re：Invent舞臺。

作為全球電商巨頭，亞馬遜與其他行業(yè)用戶一樣，也是積極擁抱生成式AI的一份子。在Andy Jassy看來，永遠不會有一種工具統(tǒng)治世界，推動人工智能的應用關鍵在于降低成本和提升生產(chǎn)效率，而非參與各種評測和競賽。

Andy Jassy介紹，亞馬遜內(nèi)部有大約1000個正在運行的生成式AI應用，并且開發(fā)了供內(nèi)部使用的新模型，現(xiàn)在決定公開分享出來，于是就有了本次大會上發(fā)布的Amazon Nova最新一代多模態(tài)基礎大模型。

據(jù)悉，Amazon Nova包括四款模型：Amazon Nova Micro是一款僅處理文本的模型，能夠以極低的延遲和成本提供響應；Amazon Nova Lite是一款極具成本效益的多模態(tài)模型，能夠快速處理圖像、視頻和文本輸入；Amazon Nova Pro是一款功能強大的多模態(tài)模型，可在準確性、速度和成本之間實現(xiàn)絕佳平衡，適合多種任務；Amazon Nova Premier是亞馬遜的頂級多模態(tài)模型，專為復雜推理任務而生，并可用于作為“教師模型”來蒸餾定制模型。

此外，亞馬遜還推出了兩款專注于創(chuàng)意內(nèi)容生成的模型：Amazon Nova Canvas用于生成高質(zhì)量圖像；Amazon Nova Reel用于制作高質(zhì)量視頻。

Andy Jassy透露，目前Amazon Nova Micro、Lite、Pro、Canvas、Reel已全部正式可用，并且已經(jīng)在Amazon Bedrock上線，而Amazon Nova Premier預計將在2025年第一季度可用。預計明年，亞馬遜還將推出Amazon Nova Speech-to-Speech語音轉語音模型和Amazon Nova Any to Any任意模態(tài)生成任意模態(tài)模型。

根據(jù)相關行業(yè)基準測試結果顯示，Amazon Nova Micro、Amazon Nova Lite和Amazon Nova Pro表現(xiàn)出非常不錯的競爭力。例如，Amazon Nova Micro在所有11項適用基準測試中，其表現(xiàn)與Meta的LLaMa 3.1 8B相當或更優(yōu)，Amazon Nova Pro在與OpenAI的GPT-4o的20項基準測試中，有17項表現(xiàn)相當或更優(yōu)。

事實上，亞馬遜云科技在大模型領域的布局正在走向完善，其競爭力也在加速凸顯。除了過去Amazon Titan大模型之外，隨著Amazon Nova系列基礎模型的發(fā)布，亞馬遜云科技進一步增強了自身大模型的實力。此外，亞馬遜云科技與Anthropic的深度合作，也將有利于亞馬遜云科技提供豐富的生成式AI服務給各種用戶。

03

給予客戶選擇權

“給予用戶選擇權”是亞馬遜云科技反復強調(diào)的核心原則。“亞馬遜公司內(nèi)部團隊的洞察與實踐表面，開發(fā)人員希望有廣泛的 AI 模型可供選擇，預計這種情況將持續(xù)下去?！盇ndy Jassy如是說。

當下，生成式AI、大模型依然處于產(chǎn)業(yè)發(fā)展的早期，技術、產(chǎn)品的創(chuàng)新保持著極高的活躍性，這也使得各類大模型涌現(xiàn)，模型本身也在不斷地迭代、升級與演進，新版本、新功能層出不窮；另一方面，用戶在生成式AI與場景的適配方面也處于早期，不同領域不同場景往往存在著不一樣的需求，需要綜合考慮大模型的性能、成本、可靠性等各種因素。

因此，亞馬遜云科技認為用戶在生成式AI需要有充分的選擇權，從而更好地將生成式AI與業(yè)務場景進行融合。

例如，Amazon Bedrock已經(jīng)推出了Marketplace，匯聚了超過100個大模型供用戶進行選擇。另外，用戶往往需要根據(jù)具體業(yè)務場景需求來對模型進行蒸餾，亞馬遜云科技Amazon Bedrock Model Distilation可以讓用戶選擇lLama、Claude等多種先進模型進行蒸餾，讓用戶可以蒸餾出更適配業(yè)務場景的模型。

綜合觀察，如果說去年亞馬遜云科技展示的生成式AI三層技術棧，給業(yè)界展示了推動生成式AI應用的整體技術框架；那么，今年大會亞馬遜云科技針對生成式AI 的眼花繚亂、目不暇接眾多新功能發(fā)布，意味著亞馬遜云科技極大填充了生成式AI技術應用的技術框架，讓生成式AI在工程化方面大幅前進。面向未來，隨著生成式AI與場景的深度融合，亞馬遜云科技在人工智能的數(shù)據(jù)、分析、訓練和推理等方面全面、細致的工作，將推動用戶們在通往生成式AI之路中行穩(wěn)致遠。

大數(shù)據(jù)在線是聚焦人工智能、大數(shù)據(jù)、云計算等前沿科技領域深度觀察的深度媒體。目前，大數(shù)據(jù)在線在微信公眾號、今日頭條號、新浪財經(jīng)、36氪、雪球號、觀察號等主流自媒體平臺均有入駐，積累粉絲超過20W；并榮獲今日頭條十大科技新銳媒體、商業(yè)新知十大人工智能媒體等多項殊榮。商務聯(lián)系請?zhí)砑游⑿牛篛wen_Inter，添加請備注具體信息。