昇騰“淬火行動”燃動廣深，AI行業落地按下“加速鍵”

在大洋彼岸的互聯網科技巨頭狂堆算力大煉模型之際，行業化落地被認為是中國人工智能產業發展的重要特色。通過將大模型與千行百業場景結合，AI已成為我國數字經濟發展的核心驅動力。打造強大、自主的AI技術底座與構建繁榮、創新的AI應用生態，已因此成為產業發展的關鍵。

業界在行動！近日，昇騰“淬火行動”伙伴能力提升專項行動——廣深專場圓滿落幕，來自全國各地的昇騰行業伙伴及其AI技術開發者匯聚一堂，通過這場為期三天的深度技術賦能活動學習昇騰軟硬件技術，補齊技術斷點，強化實戰能力，共同開啟了以“技術自閉環”推動AI項目落地的“加速度”。

01．從調用API到深入技術棧，加速項目落地進程

當AI大模型成為行業智慧升級的核心驅動力，傳統數智服務提供商也站在了新的十字路口，機會與挑戰并存。

廣州力麒智能科技有限公司（以下簡稱“力麒智能”）作為智慧政務解決方案提供商，成立20多年以來一直為數字政府建設提供專業的軟硬件全套服務。隨著AI時代呼嘯而來，力麒智能也開啟了國產化大模型應用開發的新征程。

在力麒智能技術總監陳勁全看來，公司在應用開發中面臨的核心難點在于對算力、對知識庫、對底層國產環境的適配；在項目推進中，需要融入技術生態，將上層應用與底層算力支撐層相結合，若技術鏈整合不順暢，將導致項目推進受阻。

廣州力麒智能科技有限公司技術總監陳勁全

毫無疑問，這需要生態方提供更適配的技術支持。昇騰“淬火行動”正為此而生，三天的培訓活動通過RAG應用開發、小模型推理部署、大模型訓推加速、算子開發等課程，為伙伴開發者構建了所需的技術認知與實操能力。

以時下火熱的RAG應用開發為例，培訓首日便聚焦RAG技術應用如何通過知識庫解決大模型知識更新滯后與內容幻覺問題，并結合昇騰RAG SDK的實操演練，指導開發者快速構建企業級智能問答應用，為技術落地產業場景提供有效路徑。

“此前團隊主要是調用API，不熟悉推理部署、調優及底層技術棧構建，”陳勁全表示，通過“淬火行動”實操培訓積累技術經驗，團隊未來不僅可以快速解決內部項目問題，還能協助客戶處理昇騰大模型應用部署難題，推動項目合作。

02．從“黑盒子”到可管可優，推動安防AI高效落地

深圳市未來清研智能科技有限公司（以下簡稱“未來清研”）Java研發工程師林晨，在負責公司特定行業AI應用落地時同樣面臨諸多難題。

深圳市未來清研智能科技有限公司Java研發工程師林晨

一方面，客戶的需求高度定制化且動態變化，傳統研發方式響應慢，需要AI驅動的流程化方式提升需求交付效率。另一方面，團隊此前使用的開源推理框架難以適應特定生態的硬件系統和相應的技術運維支持，同時，無法把控真實有效的調優過程。

于是2024年公司將目光投向了更系統化、更加可控的昇騰技術方案，林晨此番參加昇騰“淬火行動”，正希望進一步借助昇騰生態的系統化培訓與技術支持，在模型調優、算法優化、算力挖掘等方面實現進階，更好地滿足安防客戶對定制化功能與本地數據安全的訴求。

林晨指出，尤其是RAG SDK對本地數據集測試、Milvus向量庫對接的支持，為業務高效落地提供了相關參考，“培訓老師認真負責、文檔詳實，幫助明確了模型調優、框架適配的方向。”

03．從跨架構遷移到端到端實戰，提升問題解決效率

深圳市法本信息技術股份有限公司（以下簡稱“法本信息”）作為一家長期深耕AI與信創領域的老牌信息技術服務商，與昇騰合作已久，是昇騰ISV大模型應用軟件合作伙伴。目前，法本信息已形成階段性成果——旗下在昇騰AI開發者創享日·廣東站重磅發布的FarAI GPT系列一體機，基于昇騰和DeepSeek構建企業級AI生態架構，內嵌三大核心垂直模型與智能體，覆蓋人才獲取與管理（智能招聘GPTRecruit）、知識管理（知識大腦GPTBrain：銀行監管、汽車維修等）、研發效能（輔助編碼GPTCoder）等關鍵業務場景，可賦能金融、汽車等行業，全面滿足企業AI時代戰略轉型需求。

法本信息新生代算法工程師鄭帥在交流中提到，目前團隊在昇騰技術應用領域已積累了一定的經驗，尤其在跨架構遷移（從英偉達平臺到昇騰）、基于昇騰的端到端大模型實戰等核心能力上，已通過產品適配與項目實踐形成了相關的技術路徑。目前個人在昇騰技術的深入應用上也處于持續精進階段，主要在算子開發等進階技術領域仍在積累突破，希望通過更多實踐與交流進一步提升專業能力。同時他提到，部分客戶對自主技術生態的穩定性仍存顧慮，而法本信息基于昇騰在知識問答、金融監管、汽車人員培訓和智能招聘等場景落地的經典案例，充分展現了公司在昇騰生態下的AI創新實踐成果與技術積淀，這些正成為增強客戶信心的重要支撐。

深圳市法本信息技術股份有限公司算法工程師鄭帥

為此，生態層面的持續支持仍顯得尤為關鍵。昇騰“淬火行動”恰好回應了這一需求。在培訓中，昇騰AI技術專家將理論與實戰相結合，系統指導開發者完成MindIE大模型推理與調試調優，并帶領參訓者完整實操了MindSpeed LLM大模型預訓練、微調及后訓練的全流程。此外，昇騰AI框架布道師還現場演示了MindSpore昇思動態圖能力及其兼容方案，通過創新的適配層設計，使主流PyTorch訓練代碼能夠平滑遷移至昇騰平臺，顯著降低生態切換成本，保障開發體驗的一致性。

鄭帥表示：“‘淬火行動’是我深入昇騰技術體系的重要一步，它幫助我在既有積累的基礎上，進一步系統加深了在算子開發等方面的認知，為后續FarAI GPT系列一體機等類似產品的迭代與新場景拓展奠定了扎實基礎。”他也期待生態方能提供持續的支持渠道，如專家交流與專項指導，助力個人及團隊進一步攻克模型訓練加速、算子開發等進階技術。

04．從模型訓推到算子開發，充分發揮昇騰硬件性能

廣電運通集團股份有限公司（以下簡稱“廣電運通”）算法研發部的高級算法工程師胡一征博士，也從模型訓推、算法優化、算子開發等層面分享了與昇騰生態的交集。

廣電運通集團股份有限公司算法研發部高級算法工程師胡一征

他介紹，廣電運通團隊自2024年開始使用昇騰，見證了其大模型生態從初始起步到逐步完善的過程。比如在前期MindIE功能不足時，廣電運通團隊自主編寫推理接口，支撐了內外部的大模型落地項目；隨著MindIE持續迭代，到當年底新版本發布時，團隊就轉向使用MindIE自帶接口了。

本次參加昇騰“淬火行動”，胡一征博士表示正是沖著“自己不太熟悉”的底層算子來的。他高度認可昇騰CANN底層開源的價值，認為這樣的舉措能夠降低開發者參與門檻，降低適配成本，并希望昇騰持續完善算子生態，逐步實現與主流框架的全面對齊，進一步降低跨架構開發與遷移的工作量。

活動第三日的培訓，也正圍繞最底層的CANN算子編程能力展開，包括可以幫助開發者打造與硬件架構高度契合的AscendC算子開發，以及可實現算子快速開發和跨平臺高效遷移的Triton算子開發，助力開發者從理論掌握到實操上手，并顯著提高開發與遷移的效率。

通過開源和開放的創新模式，胡一征博士期待能夠充分發揮昇騰硬件性能，實現PyTorch所有算子的支持與精度對齊，最終達成開發者希望看到的“一套代碼在英偉達與華為算力設備無縫切換”的目標。

毋庸諱言，AI的行業化落地，既離不開堅實的AI技術底座，也離不開繁茂AI的應用生態——而貫穿這其中的，正是開發者這一決定性力量！此番廣深兩地的開發者因昇騰“淬火行動”而集結，完成從“璞玉”到“利刃”的蛻變，料定將帶著淬火后的硬核實力，共同為本地乃至全國的AI行業落地按下“加速鍵”，讓創新鋒芒在這片產業沃土上破開荊棘、一往無前！