盤古大模型陷抄襲風(fēng)波：站在巨人的肩膀，莫讓唯自研論反噬

2025年7月5日下午，華為盤古大模型團(tuán)隊(duì)通過官方渠道（如“昇騰CANN”微信公眾號）發(fā)布正式聲明，回應(yīng)了近日圍繞其開源模型“盤古Pro MoE”是否抄襲阿里“通義千問 Qwen-2.5 14B”模型的爭議。聲明稱，盤古是基于昇騰硬件平臺自研訓(xùn)練的混合專家模型，強(qiáng)調(diào)了“MoGE架構(gòu)”創(chuàng)新，并否認(rèn)抄襲。

而爭議的起點(diǎn)則是來自GitHub上名為HonestAGI用戶（該用戶目前已顯示404）發(fā)布的“LLM-Fingerprint”分析，該分析指出，盤古Pro MoE與Qwen?2.5?14B在注意力層參數(shù)上顯示出平均相關(guān)性為0.927，遠(yuǎn)高于同行模型間的對比范圍，暗示可能其通過“升級改造”獲得，而非從零訓(xùn)練，并在圈內(nèi)引發(fā)盤古Pro MoE的抄襲質(zhì)疑。

盤古團(tuán)隊(duì)隨后在GitHub issue區(qū)進(jìn)行技術(shù)回應(yīng)，否認(rèn)指控，并指出對比方法“不科學(xué)”。聲明強(qiáng)調(diào)遵守開源許可，部分基礎(chǔ)組件參考了開源實(shí)踐。

“驚人的0.927相關(guān)性”：參數(shù)高相似度是否等同于抄襲？

眾所周知，在模型訓(xùn)練中，即使使用相同的開源數(shù)據(jù)集和相似的模型架構(gòu)，由于初始化參數(shù)的隨機(jī)性、訓(xùn)練過程中的隨機(jī)性（如dropout、數(shù)據(jù)洗牌順序等）以及不同的超參數(shù)設(shè)置，最終訓(xùn)練出的模型參數(shù)幾乎不可能完全一致，這意味著，相關(guān)性達(dá)到0.927極不尋常，甚至遠(yuǎn)遠(yuǎn)超出了“巧合”可以解釋的范疇。

而這種極不尋常，通常只意味著兩種可能。一種是增量訓(xùn)練（Continual Pre-training），即一方（例如華為盤古Pro MoE）在另一方已經(jīng)訓(xùn)練好的模型（例如Qwen-2.5 14B）基礎(chǔ)上，使用自己的數(shù)據(jù)繼續(xù)進(jìn)行訓(xùn)練，而這種做法會保留大部分原始模型的參數(shù)結(jié)構(gòu)和數(shù)值特征，導(dǎo)致高度相似；另外一種則是參數(shù)復(fù)制或遷移，即華為直接或經(jīng)過少量修改后，將Qwen-2.5 14B模型的參數(shù)用到了自家的盤古Pro MoE模型中。

不過，也有業(yè)內(nèi)對此提出了不同的看法，例如導(dǎo)致參數(shù)相關(guān)性高的原因很多，類似的訓(xùn)練目標(biāo)、相近的模型規(guī)模，或設(shè)計(jì)上采用了類似的注意力機(jī)制等都可能產(chǎn)生參數(shù)的高相關(guān)性，尤其是在Transformer架構(gòu)被廣泛共享的背景下。況且，若無明確代碼或權(quán)重直接復(fù)制記錄，僅憑統(tǒng)計(jì)參數(shù)相關(guān)性也無法斷定抄襲。

此外，上述“LLM-Fingerprint”的技術(shù)研究，似乎只關(guān)注了QKV參數(shù)相關(guān)性，缺乏對激活模式、訓(xùn)練流程、數(shù)據(jù)來源等多維度分析，畢竟專業(yè)評估需要多層級、多模型對比、顯著統(tǒng)計(jì)差異分析，而非單一模型參數(shù)相關(guān)性的測算。

而華為盤古團(tuán)隊(duì)認(rèn)為對比方法“不科學(xué)”的解釋中似乎也點(diǎn)明了這點(diǎn)，同時(shí)強(qiáng)調(diào)了其“分組混合專家模型（MoGE）”架構(gòu)的獨(dú)特性和創(chuàng)新性。

事實(shí)是，MoE（Mixture ofExperts）模型本身就是一種將大模型拆分成多個(gè)“專家”（子網(wǎng)絡(luò)或者模塊）的架構(gòu)。如果盤古的MoGE架構(gòu)在專家分組、路由機(jī)制等方面有顯著創(chuàng)新，那么即便某些基礎(chǔ)組件（如每個(gè)專家內(nèi)部的Transformer塊）的實(shí)現(xiàn)參考了開源代碼，也不能完全等同于對整個(gè)模型的抄襲。

盡管如此，要想反駁抄襲的質(zhì)疑，盤古團(tuán)隊(duì)還理應(yīng)透明地解釋其MoGE架構(gòu)與Qwen-2.5的異同，并說明為何在上述架構(gòu)存在獨(dú)特性和創(chuàng)新性的前提下，參數(shù)相似度還依然如此之高

遺憾的是，這些并未出現(xiàn)在盤古團(tuán)隊(duì)的回復(fù)中，其也未詳細(xì)解釋“LLM-Fingerprint”的評估方法何以不科學(xué)，同時(shí)缺乏官方GitHub或其他平臺的完整聲明，進(jìn)而導(dǎo)致華為的否認(rèn)缺乏反證數(shù)據(jù)支撐，難以形成有力的回應(yīng)。

化簡為繁：用戶無法證偽，華為不能證真

如上述，無論是盤古團(tuán)隊(duì)回復(fù)中提及的“LLM-Fingerprint”分析的不科學(xué)，還是業(yè)內(nèi)部分觀點(diǎn)認(rèn)為，判斷盤古Pro MoE是否抄襲，需要多層級、多模型對比、顯著統(tǒng)計(jì)差異分析等的專業(yè)評估，都揭示出證偽的系統(tǒng)性和復(fù)雜性。

那么問題來了，我們能否僅在“LLM-Fingerprint”的層面（畢竟盤古團(tuán)隊(duì)回復(fù)中所指出的不科學(xué)也僅限于此），即質(zhì)疑方除了前述HonestAGI用戶采用的屬于“LLM-Fingerprint”的參數(shù)指紋（Parameter Fingerprint），還可以使用同屬于“LLM-Fingerprint”的其他驗(yàn)證方式以增加質(zhì)疑的權(quán)重和說服力；而華為也可以借此反駁質(zhì)疑方的質(zhì)疑，也是最直接和簡單的方法，同級驗(yàn)證中的“一正一反”，質(zhì)疑至少在同一技術(shù)層面的爭議中歸零。

這里我們需要簡單說明的是，HonestAGI提及的“LLM-Fingerprint”指的就是所謂的模型指紋（Model Fingerprinting），簡而言之，它是指通過一組可量化的特征或統(tǒng)計(jì)量，對一個(gè)機(jī)器學(xué)習(xí)模型（特別是大語言模型LLM）建立獨(dú)一無二的“身份識別”，類似于人類的指紋或設(shè)備的序列號，主要用來識別模型來源；檢測模型抄襲、篡改或未經(jīng)授權(quán)的衍生；對模型“去匿名化”等，通常包括我們上述第一部分論述的，HonestAGI用戶采用的參數(shù)指紋外，還有行為指紋、輸出指紋、梯度指紋等。

不幸的是，除參數(shù)指紋外，對于用戶和社區(qū)來說，基于動(dòng)態(tài)驗(yàn)證方法的行為指紋、輸出指紋、梯度指紋等這些更強(qiáng)、更深層、更具解釋力的驗(yàn)證手段都無法進(jìn)行。

原因很簡單，盤古ProMoE既未開放完整模型權(quán)重，也沒有提供任何在線API、推理或DEMO接口。

注：白盒（White-box）：完全可見模型內(nèi)部結(jié)構(gòu)與參數(shù)，如模型權(quán)重

灰盒（Grey-box）：有限開放部分中間結(jié)果，如梯度、logits

黑盒（Black-box）：只開放輸入輸出接口，不公開模型內(nèi)部結(jié)構(gòu)

例如在華為官方介紹中，盤古大模型主要定位為企業(yè)級應(yīng)用、昇騰硬件加速平臺上的基礎(chǔ)模型，聚焦政企行業(yè)解決方案，相關(guān)產(chǎn)品多以集成形式對外提供，未見單獨(dú)面向開發(fā)者或公眾的API服務(wù)開放；華為云官網(wǎng)雖然提供部分AI服務(wù)，但并未列出針對盤古ProMoE的API調(diào)用入口或開放平臺；華為ModelArts或其它云服務(wù)平臺未發(fā)現(xiàn)有盤古Pro MoE對外API。

而在開源平臺與模型庫中，盡管盤古Pro MoE的相關(guān)代碼和訓(xùn)練框架在GitHub開源，但未提供推理API或在線服務(wù)Demo；至于相關(guān)社區(qū)也沒有發(fā)現(xiàn)公開可用的盤古Pro MoE Web Demo或API，開源愛好者和企業(yè)用戶均反映無法通過接口直接調(diào)用。

最后，據(jù)多個(gè)國內(nèi)行業(yè)媒體報(bào)道，盤古Pro MoE面向昇騰芯片定制，且目前主要作為底層基礎(chǔ)模型，不對外提供單獨(dú)API。

這意味著僅在模型指紋領(lǐng)域，比基于靜態(tài)驗(yàn)證方法的參數(shù)指紋更具說服力的其他基于“動(dòng)態(tài)驗(yàn)證方法”的模型指紋都被華為有意或者無意間所屏蔽，只剩下無需API，只要公開權(quán)重，即可對模型權(quán)重中特征矩陣的相似度進(jìn)行靜態(tài)分析的參數(shù)指紋可用。

到此，我們認(rèn)為，從用戶和社區(qū)端，想要再添加更有說服力的證據(jù)幾乎沒有可能，那么就如我們前面所述，華為自身能否通過除去其質(zhì)疑不科學(xué)的參數(shù)指紋外，用其他模型指紋中的任何一種或幾種進(jìn)行交叉驗(yàn)證，來反駁能，且只能采用參數(shù)指紋進(jìn)行驗(yàn)證的用戶的質(zhì)疑呢？

按理說這對于華為來說再簡單不過。

但隨之而來的問題是，如果華為真的自己去驗(yàn)證，這種類似于既當(dāng)運(yùn)動(dòng)員，又當(dāng)裁判員的做法能否服眾？也許最客觀、公正的做法就是更加開放，例如對外開放自己的API和推理或DEMO接口，接受社區(qū)和用戶的檢驗(yàn)，但這又和我們前述人家華為盤古Pro MoE多以集成形式對外提供服務(wù)的商業(yè)模式相悖。畢竟選擇何種商業(yè)模式是廠商的自由。

到這里，業(yè)內(nèi)是否發(fā)現(xiàn)，無論是社區(qū)和用戶對于盤古Pro MoE的進(jìn)一步證偽，還是華為反駁的自我證真，實(shí)際的操作非常簡單，但因?yàn)槲覀兦笆龅睦碛蓞s變得異常復(fù)雜，且“合情合理”，而這種化簡為繁的操作，極有可能讓此次盤古Pro MoE的抄襲風(fēng)波，成為用戶無法證偽，華為不能證真的游戲而不了了之。

站在巨人的肩膀：借鑒應(yīng)有理有據(jù)有節(jié)，莫讓唯自研論反噬

曾幾何時(shí)，物理學(xué)巨匠艾薩克?牛頓在1675年寫給羅伯特?胡克的信中所言的：“如果我看得更遠(yuǎn)，那是因?yàn)槲艺驹诰奕说募绨蛏稀背蔀榭茖W(xué)精神的經(jīng)典象征，傳達(dá)出一種謙遜、尊重前人、積累創(chuàng)新的價(jià)值觀。

而科技發(fā)展到今天，特別是在AI領(lǐng)域，完全從零開始構(gòu)建一切已不現(xiàn)實(shí)，因?yàn)閹缀跛械难芯亢烷_發(fā)都是基于前人的努力或者成果。

例如Transformer架構(gòu)（由谷歌2017年提出）已成為幾乎所有現(xiàn)代大模型的基礎(chǔ)。無論是GPT、BERT、LLaMA、通義千問還是盤古，都是在其之上的繼承和發(fā)展。而在開源日益流行的大模型領(lǐng)域更是如此。

這讓使用開源模型、開源數(shù)據(jù)集、參考優(yōu)秀論文等的自我實(shí)現(xiàn)，已經(jīng)成為行業(yè)常態(tài)。而在這種背景下，創(chuàng)新的核心其實(shí)已經(jīng)從所謂零開始的完全自研，轉(zhuǎn)向是否提供了新的、有價(jià)值的東西。

以盤古Pro MoE為例，從其發(fā)布的論文看，面向自家的昇騰硬件就是其核心自主創(chuàng)新之一。因?yàn)獒槍μ囟ㄓ布M(jìn)行深度優(yōu)化，本身就是重要的工程創(chuàng)新，可以提升訓(xùn)練和推理效率；又如其MoGE架構(gòu)，如果此架構(gòu)確實(shí)如其所言，解決了大規(guī)模分布式訓(xùn)練的負(fù)載均衡難題，無疑也是相當(dāng)具有價(jià)值的架構(gòu)創(chuàng)新。

但隨之而來的疑問是，如果盤古Pro MoE在架構(gòu)和硬件適配上有如此重要的創(chuàng)新，為何還需要大量借鑒，甚至可能直接使用了Qwen的核心參數(shù)（按照HonestAGI用戶的參數(shù)指紋驗(yàn)證）呢？

結(jié)合上述，我們認(rèn)為，所謂針對昇騰硬件的優(yōu)化嚴(yán)格來說只能算是“部署優(yōu)化”，不涉及模型本身的原創(chuàng)性；而MoGE架構(gòu)也僅是架構(gòu)創(chuàng)新，所以二者能否支撐“盤古Pro MoE是完全獨(dú)立訓(xùn)練的大模型”之說，依然值得商榷。

而提及盤古Pro MoE是完全獨(dú)立訓(xùn)練的大模型，除了上述盤古Pro MoE的論文外，我們不得不再提及華為盤古團(tuán)隊(duì)對于質(zhì)疑的回應(yīng)。

回應(yīng)中，盤古團(tuán)隊(duì)強(qiáng)調(diào)其“嚴(yán)格遵循開源許可證的要求，在開源代碼文件中清晰標(biāo)注開源代碼的版權(quán)聲明”。這可以被解讀為，其承認(rèn)使用了其他開源模型的代碼（可能包括Qwen），但認(rèn)為自己的使用方式在法律上是合規(guī)的。

但問題的關(guān)鍵在于“使用”的程度，其并沒有詳細(xì)說明。

而在我們看來，如果使用僅僅是參考了某個(gè)函數(shù)的實(shí)現(xiàn)方式，或者使用了某些基礎(chǔ)庫，這在開源社區(qū)是完全正常且被鼓勵(lì)的，但如果是將一個(gè)模型的“核心資產(chǎn)”，即人家花費(fèi)大量算力和數(shù)據(jù)訓(xùn)練出來的權(quán)重參數(shù)進(jìn)行“換皮”式使用，并聲稱是完全獨(dú)立訓(xùn)練的大模型，那么即便在代碼層面標(biāo)注了來源，法律上合規(guī)，但在道義和學(xué)術(shù)誠信上也會引發(fā)巨大爭議，尤其是在開源領(lǐng)域，這種道義和學(xué)術(shù)誠信上的爭議，對于相關(guān)企業(yè)，乃至中國開源領(lǐng)域都會造成不小的負(fù)面影響。

寫在最后：俗話說：“欲戴皇冠，必承其重”。當(dāng)一家企業(yè)因?yàn)榉鞘袌鲆蛩氐南拗疲徊糠謽I(yè)內(nèi)和媒體頻頻冠以自研，且該企業(yè)借此收獲大量情緒價(jià)值，并能將其轉(zhuǎn)化為實(shí)際商業(yè)營收和利潤之時(shí)，該企業(yè)難免受到一定的影響。

例如明明某些領(lǐng)域、某些技術(shù)的核心來自供應(yīng)商，該企業(yè)充其量是優(yōu)化或者適配，卻被換上個(gè)高大上的名字或者艱澀難懂的所謂科技術(shù)語，搖身一變成為自研，久而久之，習(xí)慣成自然，自研被標(biāo)簽化，仿佛不自研，該企業(yè)就不成活。但稍有業(yè)內(nèi)常識的人都清楚，任何產(chǎn)業(yè)或者產(chǎn)品的創(chuàng)新和成功，都不可能憑借一家企業(yè)的自研之力可為之。

而此次盤古大模型陷抄襲風(fēng)波足以提醒我們的企業(yè)，要么是真的自研，勇于接受市場的質(zhì)疑和檢驗(yàn)；要么在嚴(yán)格遵守相關(guān)行業(yè)或者產(chǎn)業(yè)協(xié)議和規(guī)則等的前提下，站在巨人的肩膀上去發(fā)展。否則，輿論長期停留在“猜測”與“對抗”之間，最終，不僅相關(guān)企業(yè)會被所謂的自研反噬，還會極大消耗中國科技產(chǎn)業(yè)及自主品牌的公信力和競爭力。