<cite id="ffb66"></cite><cite id="ffb66"><track id="ffb66"></track></cite>
      <legend id="ffb66"><li id="ffb66"></li></legend>
      色婷婷久,激情色播,久久久无码专区,亚洲中文字幕av,国产成人A片,av无码免费,精品久久国产,99视频精品3
      網易首頁 > 網易號 > 正文 申請入駐

      物理·評論:結構即解釋——網絡成為科學假設的可計算載體

      0
      分享至


      導語

      2024年發布的KAN的核心創新在于將MLP的“節點激活”變為“邊激活”,用可學習的B樣條函數替代固定激活函數,使網絡天然具備函數分解能力。之后原班人馬推出的KAN2.0 引入乘法節點和樹轉換器,從而支持先驗知識引入,及通過結構展示變量間的組合邏輯。

      關鍵詞:KAN ,可解釋性,模塊識別,符號推理

      郭瑞東丨作者

      趙思怡丨審校


      論文題目:Kolmogorov-Arnold Networks Meet Science 論文鏈接:https://journals.aps.org/prx/abstract/10.1103/4t7t-v19l 發表時間:2025年12月17日 發表期刊:Physical Review X

      KAN2.0如何整合先驗科學知識

      KAN 2.0框架的核心是“雙向協同”(bidirectional synergy),即科學知識注入網絡,網絡洞察反哺科學(圖1)。而使這成可能的,是在KAN中引入乘法節點,從而形成的MultKAN,該結構天然支持乘積運算。


      圖1:KAN和科學發現的關系

      根據Kolmogorov-Arnold定理,理論上僅需加法與單變量函數即可逼近任意多元連續函數,乘法可被隱式編碼。但這種“用加法模擬乘法”的路徑在拓撲上無法直接體現乘的語義。

      圖2左上的標準KAN中節點代表求和操作,邊承載可學習的單變量函數,右上的MultKAN在標準KAN層之間插入顯式的乘法層。該層包含兩類節點。加法節點與標準KAN一致直接復制前一層子節點的輸出,乘法節點:對前一層的 kk 個子節點執行乘積運算。這一設計使網絡獲得原生乘法能力,無需通過復雜函數組合間接實現乘積。


      圖2:MultKAN和原版KAN的對比

      圖2下半部分對比原版KAN和MultKAN對乘法的表征差異,原版“用加法模擬乘法”的路徑在拓撲上無法直接體現乘積語義,且對噪聲敏感。MultKAN的學習結果中,網絡直接激活單個乘法節點,所有邊上的激活函數退化為線性函數,表明無需額外非線性變換。這樣網絡拓撲本身即表達 x*y 的物理意義。

      有了MultKAN,通過作者開源的kanpiler包,能將符號公式(如動能T=?mv2)直接編譯為KAN結構,使網絡從“物理正確”的初始狀態開始學習,這相當于為AI模型引入了先驗知識(圖3a)。圖3b展示了kanpiler在多個物理公式上的實戰能力,它使模型從“物理正確”的狀態開始學習,而非在隨機初始化的參數空間中盲目搜索。


      圖3:KAN2.0如何將科學知識整合到KAN中

      KAN不止能基于已有的先驗公式,還能探索未知的變量間關系。具體來看,KAN 2.0采用兩種擴展策略(圖3c):

      1. 寬度擴展(expand_width):在指定層橫向增加新節點,并添加連接新舊節點的邊。

      2. 深度擴展(expand_depth):在網絡中插入新層,將原單步變換拆解為多步復合變換。

      圖中以一個簡單KAN(2輸入→2中間→1輸出)為例,展示擴展后網絡如何從“精確但僵化”變為“靈活可塑”。這一設計符合科學發現的官吏,先驗公式提供初始假設,而擴展與微調允許網絡在數據驅動下修正或超越人類現有認知。

      利用KAN 2.0發現科學規律

      更激動人心的是反向過程,KAN2.0支持從訓練好的KAN中提取科學規律。具體分為三步:

      1. 識別哪些輸入變量真正影響輸出(如發現行星軌道僅由質量與距離決定);

      2. 揭示變量如何組合成模塊(如能量守恒體現為動能與勢能的加和結構);

      3. 通過符號回歸將邊上的B樣條擬合為數學表達式(如sin(x)、exp(x))。

      在圖4a中,對比了原版KAN與MultKAN對節點(變量)重要性的評估,原版KAN識別出的這些活躍信號可能被后續層“靜默”,從而對變量的重要性產生誤判。KAN 2.0的歸因評分采用反向傳播式計算,評分函數能正確識別出 x1路徑實際無貢獻,生成稀疏且物理一致的網絡圖,其中僅 x2 路徑被高亮,與方程的數學本質完全吻合。

      通過反向傳播式評分,量化每條路徑對輸出的邊際貢獻。這接近科學實驗中的“干預測試”:若移除某變量,輸出變化多大?歸因評分正是這種思想的計算實現。


      圖4:KAN2.0如何通過歸因評分和剪枝確定關鍵變量

      在真實科學問題中(如基因組學、氣候建模),輸入維度常達數百甚至上千,但僅少數變量與目標相關。圖4b為包含所有100個變量的KAN與剪枝后得到包含對結果貢獻最大的5個變量的KAN。

      KAN剪枝的過程,就是在做假設生成。當KAN自動剔除95個變量后,科學家可聚焦于剩余5個變量構建物理模型,加速“數據→理論”的轉化。


      圖5:KAN2.0如何自動得到變量模塊

      KAN 2.0進行科學發現的第二步是將關鍵變量模塊化。KAN 2.0采用的auto_swap的神經元交換技術,為訓練完成的KAN網絡中的每層節點隨機分配二維坐標 (x,y),并定義總連接成本 ,之后迭代式的嘗試交換同層任意兩節點的坐標,若交換后總連接成本下降則接受,直至收斂(圖5上)。該過程不改變網絡功能僅重排節點順序,卻使強連接的節點在空間上聚集,弱連接節點分離,形成肉眼可辨的模塊簇 。

      對比當前多層神經網絡MLP中,由于采用固定激活函數(如ReLU)難以直接表達多數投票的非線性閾值特性,被迫用多層組合近似,導致功能模塊在參數空間中“彌散編碼” (圖5下)。

      當任務本身具有模塊結構時,KAN的邊激活架構會自然學習到稀疏連接模式,這意味著功能模塊化可自發誘導解剖模塊化,科學家能據此從數據中發現系統中存在獨立的子模塊。識別出的模塊可被剪枝或替換為符號公式,實現“神經-符號”混合建模。層次化模塊結構還可直接對應物理系統的尺度分離(微觀→介觀→宏觀),為多尺度建模提供網絡拓撲依據。

      在二維諧振子實驗中,KAN自動發現了三個守恒量:x方向能量、y方向能量與角動量。當KAN的某條路徑僅連接x與p?時,暗示該守恒量僅與x方向運動相關。網絡拓撲成了物理對稱性的可視化映射


      圖6:KAN如何發現功能模塊,從而擬合公式

      KAN 2.0不僅能擬合函數,更能逐步學習函數內在的層次化結構,從而發現對應的數學公式。圖6a定義了功能模塊化的三級層次體系,每一級對應特定的數學結構與可計算檢測準則。圖6b通過兩個合成函數,可視化展示了樹轉換器(tree converter)如何將任意函數遞歸分解為層次化樹結構。在之后的案例中,研究者用KAN 2.0在發現史瓦西黑洞隱藏對稱性時,用圖6的樹轉換器可識別出坐標變換的層次結構。

      總結

      Software 1.0的傳統編程,完全依賴先驗知識,代表“理性主義”(知識源于先驗推理),Software 2.0機器學習代表“經驗主義”(知識源于數據歸納),完全依賴從數據中從頭挖掘(圖7a),前者對應論語中的思而不學則怠,后者對應學而不思則惘,。而KAN 2.0試圖融合二者,采用可學習的組件找出可推理的結構。它犧牲部分可學習性(相比MLP需更多參數擬合同等函數),換取可解釋性的質變(從“事后解釋”到“結構即解釋”)。


      圖7:KAN相比傳統程序和機器學習在可解釋性與可學習性上的擴展

      圖7b以帕累托前沿,追問可解釋性是否隨規模增長而必然衰減? 只依賴KAN(厚紅線),規模較小時,網絡整體可讀。但隨規模增長,即使每條邊單獨可解釋,組合爆炸導致全局理解困難。如同能讀懂每個漢字,卻無法理解百萬字小說的敘事結構。

      “僅靠人類直覺”所能達到的可解釋性上限,呈現指數衰減趨勢。而通過符號回歸(Symbolic regression),模塊發現(Modularity discovery)和特征歸因(Feature attribution),細紅線對應的模型×方法×人類認知"的協同作用可將可解釋性邊界向外推移。

      傳統科學哲學認為,理解即獲得符號公式;但KAN 2.0指出,理解存在光譜:從識別關鍵變量,到把握模塊關系,再到精確公式。這種分層觀更貼近真實科研——生物學家可能無需微分方程,僅憑通路模塊就能理解細胞信號傳導。

      當前XAI(可解釋AI)多聚焦于事后解釋(post-hoc explanation),如用注意力熱力圖說明CNN關注圖像哪部分。但KAN 2.0倡導的內在可解釋性(inherent interpretability)讓網絡結構本身即承載科學意義。當KAN的邊對應物理量間的函數關系,節點對應變量組合,網絡不再是黑箱,而成為科學假設的可計算載體。

      KAN2.0 將AI從“預測引擎”重塑為“認知伙伴”。未來AI4Science工具或許應具備三重能力:感知數據、操作符號、生成假設。KAN在前兩者間架起橋梁,而假設生成可能需要結合大語言模型的推理能力。

      論文作者

      拓撲學課程:從空間直覺到系統科學

      你是否曾思考過:為什么咖啡杯在數學上可以變成甜甜圈?為什么混沌系統中會出現周期軌、可約化結構和“奇怪吸引子”模式?為什么神經網絡、量子物理甚至心理結構,都可以從“拓撲”角度理解?

      拓撲學不僅是數學的抽象分支,更提供了系統的思維方式,讓我們理解連續性、結構不變性乃至復雜系統的整體規律。從歐拉七橋問題到DNA的纏結,從量子場論到思維科學與腦科學,拓撲學思想正在各學科中普遍而深刻地重塑著我們的認知方式。

      集智學園聯合北京大學博士金威老師開設,課程于11月23日開啟,歡迎感興趣的讀者加入。


      詳情請見:

      1.

      2.

      3.

      4.

      5.

      6.

      7.

      特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

      Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

      相關推薦
      熱點推薦
      關于楊蘭蘭,我們可能永遠不知道她是誰?很多帖子已被抹去

      關于楊蘭蘭,我們可能永遠不知道她是誰?很多帖子已被抹去

      麥大人
      2025-09-09 15:15:02
      央視怒批,目不識丁、洋相百出,難怪兩會上馮遠征建議演員多學習

      央視怒批,目不識丁、洋相百出,難怪兩會上馮遠征建議演員多學習

      傲傲講歷史
      2026-03-05 16:08:43
      湖人打殘陣活塞也落下風?兩輪換出戰成疑,主隊六將預計缺陣

      湖人打殘陣活塞也落下風?兩輪換出戰成疑,主隊六將預計缺陣

      謝說籃球
      2026-03-23 17:21:57
      馬英九辭退蕭旭岑后續,鄭麗文還原事情真相,金溥聰這回尷尬了!

      馬英九辭退蕭旭岑后續,鄭麗文還原事情真相,金溥聰這回尷尬了!

      再戰五百回合
      2026-03-23 22:59:50
      女總裁天天讓我陪她去相親,有一次我實在受不了:別去了,我娶你

      女總裁天天讓我陪她去相親,有一次我實在受不了:別去了,我娶你

      千秋文化
      2026-03-16 20:53:17
      河南發布2026年清明節放假通知

      河南發布2026年清明節放假通知

      大象新聞
      2026-03-23 19:53:05
      嚴重財務造假!300344,退市!

      嚴重財務造假!300344,退市!

      中國基金報
      2026-03-23 22:19:58
      清明高速免費3天已確定!但一壞消息傳來,車主看完心里發慌

      清明高速免費3天已確定!但一壞消息傳來,車主看完心里發慌

      復轉這些年
      2026-03-23 23:36:46
      突發公告!百億富豪被立案調查,旗下公司市值曾破2000億元

      突發公告!百億富豪被立案調查,旗下公司市值曾破2000億元

      深圳晚報
      2026-03-23 12:17:55
      周琦8罰0中,難怪郭士強不敢用他,難怪范志毅挖苦他

      周琦8罰0中,難怪郭士強不敢用他,難怪范志毅挖苦他

      章民解說體育
      2026-03-24 01:27:10
      新加坡媒體:以色列很快將被夷為平地!

      新加坡媒體:以色列很快將被夷為平地!

      南權先生
      2026-03-23 15:13:20
      急了!寧愿讓臺灣島成為一個空島,也要實現祖國完全統一

      急了!寧愿讓臺灣島成為一個空島,也要實現祖國完全統一

      聞香閣
      2026-01-27 13:53:07
      朝鮮戰爭中,美軍原本已接近勝利,卻碰上了這位中國決死的師長

      朝鮮戰爭中,美軍原本已接近勝利,卻碰上了這位中國決死的師長

      興趣知識
      2026-03-18 18:41:04
      張凌赫爆火并非偶然,徐以若保駕護航,背后藏著內娛圈層生存鐵律

      張凌赫爆火并非偶然,徐以若保駕護航,背后藏著內娛圈層生存鐵律

      子夜觀綜記
      2026-03-23 20:46:25
      浙江一女主播稱“家里資產四個億”!訂婚3年收50多萬彩禮,男友落淚:懷疑岳父岳母是假的……

      浙江一女主播稱“家里資產四個億”!訂婚3年收50多萬彩禮,男友落淚:懷疑岳父岳母是假的……

      臺州交通廣播
      2026-03-24 00:27:02
      捷克布拉格或爆發大規??棺h!超40萬人走上街頭

      捷克布拉格或爆發大規模抗議!超40萬人走上街頭

      項鵬飛
      2026-03-22 20:12:16
      大媽幫鄰居接娃3年,這天大媽生病借4000被拒,隔天大媽家門被堵

      大媽幫鄰居接娃3年,這天大媽生病借4000被拒,隔天大媽家門被堵

      溫情郵局
      2025-11-22 10:27:14
      僅差800萬美元,《鏢人》就是全球第一,我感慨:袁和平重回巔峰

      僅差800萬美元,《鏢人》就是全球第一,我感慨:袁和平重回巔峰

      白公子探劇
      2026-03-21 19:10:35
      貝森特:50天戰爭解決50年,伊朗威脅斷海底電纜,金銀A股大跌

      貝森特:50天戰爭解決50年,伊朗威脅斷海底電纜,金銀A股大跌

      丁辰靈
      2026-03-23 19:52:48
      張蘭罕見談及大S,泣不成聲,她的哭律師再發文,內涵徐家

      張蘭罕見談及大S,泣不成聲,她的哭律師再發文,內涵徐家

      生命之泉的奧秘
      2026-03-23 17:15:55
      2026-03-24 03:52:49
      集智俱樂部 incentive-icons
      集智俱樂部
      科普人工智能相關知識技能
      5719文章數 4664關注度
      往期回顧 全部

      科技要聞

      裁掉2萬多名員工后,扎克伯格對自己下手了

      頭條要聞

      特朗普:伊朗還有最后一次機會

      頭條要聞

      特朗普:伊朗還有最后一次機會

      體育要聞

      不敢放手一搏,你拿什么去爭冠?

      娛樂要聞

      鐘麗緹就女兒考拉爭議道歉:女兒還小

      財經要聞

      市場見底了嗎?誰在拋售?機構火線解讀

      汽車要聞

      東風雪鐵龍新凡爾賽C5X上市 官方一口價11.37萬起

      態度原創

      房產
      時尚
      藝術
      手機
      軍事航空

      房產要聞

      440億!海南又一城城更計劃曝光!TOP10房企巨頭突然殺入!

      春天穿衣別太老氣橫秋,試試這些多巴胺穿搭,減齡養眼又舒適

      藝術要聞

      砸10億!蘇寧易購總部大樓,張近東雄心的象征

      手機要聞

      傳聞折疊屏iPhone采用雙層玻璃設計,進一步弱化折痕

      軍事要聞

      伊朗回應美方威脅:將在戰場上堅決對抗

      無障礙瀏覽 進入關懷版