KAN2.0：結構即解釋——網絡成為科學假設的可計算載體

導語

2024年發布的KAN的核心創新在于將MLP的“節點激活”變為“邊激活”，用可學習的B樣條函數替代固定激活函數，使網絡天然具備函數分解能力。之后原班人馬推出的KAN2.0 引入乘法節點和樹轉換器，從而支持先驗知識引入，及通過結構展示變量間的組合邏輯。

關鍵詞：KAN ，可解釋性，模塊識別，符號推理

來源：集智俱樂部

作者：郭瑞東

審校：趙思怡

論文題目：Kolmogorov-Arnold Networks Meet Science 論文鏈接：https://journals.aps.org/prx/abstract/10.1103/4t7t-v19l 發表時間：2025年12月17日 發表期刊：Physical Review X

KAN2.0如何整合先驗科學知識

KAN 2.0框架的核心是“雙向協同”（bidirectional synergy），即科學知識注入網絡，網絡洞察反哺科學（圖1）。而使這成可能的，是在KAN中引入乘法節點，從而形成的MultKAN，該結構天然支持乘積運算。

圖1：KAN和科學發現的關系

根據Kolmogorov-Arnold定理，理論上僅需加法與單變量函數即可逼近任意多元連續函數，乘法可被隱式編碼。但這種“用加法模擬乘法”的路徑在拓撲上無法直接體現乘的語義。

圖2左上的標準KAN中節點代表求和操作，邊承載可學習的單變量函數，右上的MultKAN在標準KAN層之間插入顯式的乘法層。該層包含兩類節點。加法節點與標準KAN一致直接復制前一層子節點的輸出，乘法節點：對前一層的 kk 個子節點執行乘積運算。這一設計使網絡獲得原生乘法能力，無需通過復雜函數組合間接實現乘積。

圖2：MultKAN和原版KAN的對比

圖2下半部分對比原版KAN和MultKAN對乘法的表征差異，原版“用加法模擬乘法”的路徑在拓撲上無法直接體現乘積語義，且對噪聲敏感。MultKAN的學習結果中，網絡直接激活單個乘法節點，所有邊上的激活函數退化為線性函數，表明無需額外非線性變換。這樣網絡拓撲本身即表達 x*y 的物理意義。

有了MultKAN，通過作者開源的kanpiler包，能將符號公式（如動能T=?mv2）直接編譯為KAN結構，使網絡從“物理正確”的初始狀態開始學習，這相當于為AI模型引入了先驗知識（圖3a）。圖3b展示了kanpiler在多個物理公式上的實戰能力，它使模型從“物理正確”的狀態開始學習，而非在隨機初始化的參數空間中盲目搜索。

圖3：KAN2.0如何將科學知識整合到KAN中

KAN不止能基于已有的先驗公式，還能探索未知的變量間關系。具體來看，KAN 2.0采用兩種擴展策略（圖3c）：

1. 寬度擴展（expand_width）：在指定層橫向增加新節點，并添加連接新舊節點的邊。

2. 深度擴展（expand_depth）：在網絡中插入新層，將原單步變換拆解為多步復合變換。

圖中以一個簡單KAN（2輸入→2中間→1輸出）為例，展示擴展后網絡如何從“精確但僵化”變為“靈活可塑”。這一設計符合科學發現的官吏，先驗公式提供初始假設，而擴展與微調允許網絡在數據驅動下修正或超越人類現有認知。

利用KAN 2.0發現科學規律

更激動人心的是反向過程，KAN2.0支持從訓練好的KAN中提取科學規律。具體分為三步：

1. 識別哪些輸入變量真正影響輸出（如發現行星軌道僅由質量與距離決定）；

2. 揭示變量如何組合成模塊（如能量守恒體現為動能與勢能的加和結構）；

3. 通過符號回歸將邊上的B樣條擬合為數學表達式（如sin(x)、exp(x)）。

在圖4a中，對比了原版KAN與MultKAN對節點（變量）重要性的評估，原版KAN識別出的這些活躍信號可能被后續層“靜默”，從而對變量的重要性產生誤判。KAN 2.0的歸因評分采用反向傳播式計算，評分函數能正確識別出 x1路徑實際無貢獻，生成稀疏且物理一致的網絡圖，其中僅 x2 路徑被高亮，與方程的數學本質完全吻合。

通過反向傳播式評分，量化每條路徑對輸出的邊際貢獻。這接近科學實驗中的“干預測試”：若移除某變量，輸出變化多大？歸因評分正是這種思想的計算實現。

圖4：KAN2.0如何通過歸因評分和剪枝確定關鍵變量

在真實科學問題中（如基因組學、氣候建模），輸入維度常達數百甚至上千，但僅少數變量與目標相關。圖4b為包含所有100個變量的KAN與剪枝后得到包含對結果貢獻最大的5個變量的KAN。

KAN剪枝的過程，就是在做假設生成。當KAN自動剔除95個變量后，科學家可聚焦于剩余5個變量構建物理模型，加速“數據→理論”的轉化。

圖5：KAN2.0如何自動得到變量模塊

KAN 2.0進行科學發現的第二步是將關鍵變量模塊化。KAN 2.0采用的auto_swap的神經元交換技術，為訓練完成的KAN網絡中的每層節點隨機分配二維坐標 (x,y)，并定義總連接成本 ，之后迭代式的嘗試交換同層任意兩節點的坐標，若交換后總連接成本下降則接受，直至收斂（圖5上）。該過程不改變網絡功能，僅重排節點順序，卻使強連接的節點在空間上聚集，弱連接節點分離，形成肉眼可辨的模塊簇 。

對比當前多層神經網絡MLP中，由于采用固定激活函數（如ReLU）難以直接表達多數投票的非線性閾值特性，被迫用多層組合近似，導致功能模塊在參數空間中“彌散編碼” （圖5下）。

當任務本身具有模塊結構時，KAN的邊激活架構會自然學習到稀疏連接模式，這意味著功能模塊化可自發誘導解剖模塊化，科學家能據此從數據中發現系統中存在獨立的子模塊。識別出的模塊可被剪枝或替換為符號公式，實現“神經-符號”混合建模。層次化模塊結構還可直接對應物理系統的尺度分離（微觀→介觀→宏觀），為多尺度建模提供網絡拓撲依據。

在二維諧振子實驗中，KAN自動發現了三個守恒量：x方向能量、y方向能量與角動量。當KAN的某條路徑僅連接x與p?時，暗示該守恒量僅與x方向運動相關。網絡拓撲成了物理對稱性的可視化映射。

圖6：KAN如何發現功能模塊，從而擬合公式

KAN 2.0不僅能擬合函數，更能逐步學習函數內在的層次化結構，從而發現對應的數學公式。圖6a定義了功能模塊化的三級層次體系，每一級對應特定的數學結構與可計算檢測準則。圖6b通過兩個合成函數，可視化展示了樹轉換器（tree converter）如何將任意函數遞歸分解為層次化樹結構。在之后的案例中，研究者用KAN 2.0在發現史瓦西黑洞隱藏對稱性時，用圖6的樹轉換器可識別出坐標變換的層次結構。

總結

Software 1.0的傳統編程，完全依賴先驗知識，代表“理性主義”（知識源于先驗推理），Software 2.0機器學習代表“經驗主義”（知識源于數據歸納），完全依賴從數據中從頭挖掘（圖7a），前者對應論語中的思而不學則怠，后者對應學而不思則惘，。而KAN 2.0試圖融合二者，采用可學習的組件找出可推理的結構。它犧牲部分可學習性（相比MLP需更多參數擬合同等函數），換取可解釋性的質變（從“事后解釋”到“結構即解釋”）。

圖7：KAN相比傳統程序和機器學習在可解釋性與可學習性上的擴展

圖7b以帕累托前沿，追問可解釋性是否隨規模增長而必然衰減？ 只依賴KAN（厚紅線），規模較小時，網絡整體可讀。但隨規模增長，即使每條邊單獨可解釋，組合爆炸導致全局理解困難。如同能讀懂每個漢字，卻無法理解百萬字小說的敘事結構。

“僅靠人類直覺”所能達到的可解釋性上限，呈現指數衰減趨勢。而通過符號回歸（Symbolic regression），模塊發現（Modularity discovery）和特征歸因（Feature attribution），細紅線對應的模型×方法×人類認知"的協同作用可將可解釋性邊界向外推移。

傳統科學哲學認為，理解即獲得符號公式；但KAN 2.0指出，理解存在光譜：從識別關鍵變量，到把握模塊關系，再到精確公式。這種分層觀更貼近真實科研——生物學家可能無需微分方程，僅憑通路模塊就能理解細胞信號傳導。

當前XAI（可解釋AI）多聚焦于事后解釋（post-hoc explanation），如用注意力熱力圖說明CNN關注圖像哪部分。但KAN 2.0倡導的內在可解釋性（inherent interpretability）讓網絡結構本身即承載科學意義。當KAN的邊對應物理量間的函數關系，節點對應變量組合，網絡不再是黑箱，而成為科學假設的可計算載體。

KAN2.0 將AI從“預測引擎”重塑為“認知伙伴”。未來AI4Science工具或許應具備三重能力：感知數據、操作符號、生成假設。KAN在前兩者間架起橋梁，而假設生成可能需要結合大語言模型的推理能力。

閱讀最新前沿科技趨勢報告，請訪問21世紀關鍵技術研究院的“未來知識庫”

未來知識庫是 “21世紀關鍵技術研究院”建 立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能，數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。

截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告

（加入未來知識庫，全部資料免費閱讀和下載）