<cite id="ffb66"></cite><cite id="ffb66"><track id="ffb66"></track></cite>
      <legend id="ffb66"><li id="ffb66"></li></legend>
      色婷婷久,激情色播,久久久无码专区,亚洲中文字幕av,国产成人A片,av无码免费,精品久久国产,99视频精品3
      網易首頁 > 網易號 > 正文 申請入駐

      姚萬勤:生成式人工智能創作物的刑法保護 | 北方法學202506

      0
      分享至

      【作者】姚萬勤(西南政法大學副教授、碩士研究生導師)

      【來源】北大法寶法學期刊庫《北方法學》2025年第6期(文末附本期期刊目錄)。因篇幅較長,已略去原文注釋。


      內容提要:生成式人工智能創作物是否屬于著作權法保護的對象,成為目前是否需要通過刑法保護的核心問題。通過對獨創性概念的內涵與外延進行分析,可以得出肯定的答案。站在解釋論立場,可以將其作為“作者身份不明的作品”對待,此時人工智能軟件所有人為著作權權利人,未經其許可而擅自實施復制發行、傳播的,可以構成侵犯著作權罪。站在立法論視角,應依據“投資者權屬模式”對相關制度作出具體安排,當人工智能為作者時,人工智能軟件使用人應為著作權權利人,此時如果經過其許可,則不構成侵犯著作權罪;當法人或者非法人組織與人工智能形成“雇傭關系”時,即可成為人工智能創作物的“法律作者”,如果經過其許可亦不構成侵犯著作權罪。

      關鍵詞:生成式人工智能;人工智能創作物;著作權;獨創性;侵犯著作權罪

      目次 一、問題的提出 二、前提界定:“作品”認定的爭議實質與重塑 三、理論歸結:相關創作物應為刑法保護的對象 四、方案優化:契合“未經許可”適格主體的路徑抉擇 五、結語

      問題的提出

      隨著人工智能技術的發展,將其運用于作品創作領域逐漸成為社會趨勢之一,“人工智能創作物”這一概念由此誕生。2022年11月,ChatGPT3.5的發布不僅引發了新一輪的人工智能技術熱潮,而且也刷新了人類的認識。雖然歐洲部分國家因擔憂ChatGPT背后存在的數據安全風險而對其施以禁令,但其帶來的技術革命已經顯現,各國科技企業不約而同地選擇在這一賽道上展開激烈競爭。微軟推出搜索引擎必應(Bing)升級版,將ChatGPT背后的技術整合到搜索引擎中;谷歌母公司Alphabet宣布推出名為Bard的人工智能聊天機器人,正式應戰ChatGPT;百度也出臺了對標產品文心一言。此外,作為Open AI競爭對手的Stability AI亦開發了Stable Diffusion用于AI繪畫,且得益于Stability AI的開源精神,Stable Diffusion催生了眾多AI繪畫的應用,成為2022年AI領域內大火的新技術。以上現象意味著在未來的世界中,人工智能將更深層次地介入人類生活當中,不僅可以為人類排憂解難,甚至可能會使人類從繁重的體力勞動與智力勞動中解脫出來。因為人工智能比人類更懂策略,更有知識,并且更會創作,世界將進入“后人類”的世界。

      盡管“人類進一步創造出外化于人的智能超仿真實體,這種實體不僅能代替人類的體力勞動,也能代替人類的腦力勞動”,但是一切美好的愿景并非總能順利地展開,特別是在知識產權保護趨于嚴格的情況下,由生成式人工智能創作物所帶來的挑戰也逐漸顯露端倪。在域外,關于人工智能創作物版權問題,早在20世紀60年代就出現在相關的法律文獻中。如今,作為生成式人工智能所引發的人工智能創作物著作權問題再一次引起了激烈的爭論。對于這一問題,一般存在兩種不同的主張。第一種觀點認為,人工智能不具有民事主體性,因而其創作物不具有獨創性,故而不受法律保護;第二種觀點認為,人工智能具有民事主體資格,創作物也符合獨創性的要求,因而其應當受著作權法保護。在司法實踐中,關于生成式人工智能創作物是否屬于“作品”的問題,目前也逐漸顯現。例如,深圳市騰訊計算機系統有限公司(以下簡稱“騰訊公司”)在其關聯公司開發了智能寫作輔助系統Dreamwriter后,主持創作人員使用該軟件首次發表財經報道文章,且在文章末尾注明“本文由騰訊機器人Dreamwriter自動撰寫”。上海盈訊科技有限公司(以下簡稱“盈訊公司”)未經許可對該機器人撰寫的文章予以復制并進行信息網絡傳播。騰訊公司訴稱盈訊公司的行為侵犯了其信息網絡傳播權,且構成不正當競爭。

      據此可見,如果作為前置法的《著作權法》對該問題不能予以明確,那么必然會影響到后置法性質的刑法對該內容的保護。眾所周知,我國《刑法》第217條規定的侵犯著作權罪是指行為人以營利為目的,違反國家著作權管理法律法規,侵犯他人著作權或者與著作權相關的權利,違法所得數額較大或者有其他嚴重情節的行為。根據第217條具體罪狀的規定,構成本罪包含“未經相關的權利人許可”而擅自實施復制發行、傳播等行為。那么,由此給刑法保護帶來的更大挑戰便體現在以下兩點:一是,刑法規定的侵犯著作權罪所保護的“作品”是否包含生成式人工智能的創作物?這顯然是刑法保護的前提。二是,如果能夠明確生成式人工智能創作物屬于“作品”,那么誰才能享有相應的權利,成為真正的權利人?也即,在生成式人工智能展示了人工智能創作能力超越性發展的背景之下,脫離了人類創作所產生的創作物著作權應當歸于誰?如果能夠取得相應權利人的許可,復制發行相關的文字等顯然也就不會構成本罪。貌似很復雜的問題,實質上爭議的焦點可歸納為:以生成式人工智能為基礎而生成的人工智能創作物能否滿足著作權法中“作品”的要求。因此,本文擬對上述問題進行詳細闡釋,并就如何解決提供具體的方案。

      前提界定:“作品”認定的爭議實質與重塑

      根據《刑法》第217條第1項的規定,侵犯著作權罪所保護的對象應當是“作品”及其相關權利,且對該“作品”的認定需要依據法律、行政法規的相關規定。因此,關于人工智能創作物是否屬于著作權法中的“作品”,成為刑法保護首先要解決的重點問題。換言之,如果生成式人工智能的生成內容屬于“作品”,則理所應當地應將其納入著作權法以及刑法的保護范圍。

      (一)“作品”認定的爭議實質

      學界對如何認定“作品”存在較大的爭議。一方觀點認為,人工智能創作物本質上只是算法的結果,不能被認為具有獨創性,因而也就不屬于著作權法中的“作品”。另一方則主張,人工智能創作物包含的獨創性超過了法律的規定——只要創作了任何前所未見的東西,就滿足了獨創性的要求,因而屬于著作權法中的“作品”。從上述對立的論斷之中不難看出,人工智能創作物是否屬于著作權法中的“作品”,必然需要考慮能否滿足獨創性的要求。然而,究竟該基于何種理論來理解獨創性概念,目前學界也未取得統一的見解。

      1911年,英國在修改后的版權法中首次確立了獨創性這一認定標準,自此以后,獨創性已發展為判斷著作權法中“作品”的必備要件和本質屬性。英國在1916年的“University of London Press案”中堅持了“額頭出汗”原則,后面則有所改變。簡而言之,根據英國法律,“獨創”一詞并不意味著新穎。美國在“Feist案”中,認為獨創性應包括兩個方面的內容,其一是作品必須是獨立創作的,其二是作品必須具有少量創造性。換言之,在美國,并不需要當事人對作品具有首創性,即便在原有材料的基礎上附注了人類的加工行為,如編輯行為,都應肯定權利人對其享有著作權。在英美法系的英國與美國,實質上對獨創性的理解大同小異,并不存在本質性差別。大陸法系國家,如德國、日本,對獨創性的理解則存在較大的差異。根據德國法律,保護的主要前提是有“個人知識創造”的存在,且德國法律根據作品的類型來區分創造性的程度,尤其對計算機程序提出了更高創造性的要求。雖然日本在著作權法中規定了作品的獨創性,但是其對獨創性的內涵和外延的理解更為寬泛,甚至將作者獨自的解釋和安排也視為具有獨創性。據此可見,德國和日本對獨創性的理解差異較大。

      我國在獨創性概念的理解上也存在諸多觀點的紛爭,分別對獨創性的“獨”與“創”賦予了不同的內涵,主要爭議如下:第一種觀點認為,“獨”意味著作品系獨立完成,而考察大陸法系國家的共識,“創”除要求“最低限度的創作性”外,還要求體現人類的精神和個性。第二種觀點認為,“獨”不僅意味著不得抄襲,而且代表著權利主體必須系人類,因為“在私權主體與客體不得轉換的前提下,人工智能不可能成為權利主體和初始著作權人,因而在獨創性之獨的判定上,必須考慮以人的行為為基礎”。“創”則只要求“最低限度的創造性”。第三種觀點認為,“獨”僅包括獨立創作、并非抄襲之含義,“創”則指“最低限度的創造性”;認為應當從外在可描述的作品本身去判斷獨創性,而不考慮作者個性、創作意圖、創作主體與創作過程,而且不應當堅持“較高創造性”的主觀標準,否則既不會產生太多的社會經濟效益,還會徒增制度運行的交易和執行成本。

      (二)“作品”認定標準的重塑

      我國現行《著作權法》并未明確解釋作品的獨創性,只是在《著作權法》第3條規定了“作品”是指文學、藝術和科學領域內具有獨創性并能以一定形式表現的智力成果,就此肯定了作品必須具備獨創性。雖然上文中對獨創性概念的理解較為繁雜,但其僅關注獨創性概念的內涵,而未將視角延伸到獨創性概念的外延,故而結論難言妥當。因此,對于獨創性概念的把握應當通過內涵與外延兩個層面具體分析。

      1.對既有觀點的批駁

      首先,上述第一種觀點認為獨創性概念與創作過程有關聯,必須體現人類的精神和個性,實質上并非如此,因而該觀點不具有妥當性。基本理由如下:第一,如果要求創作過程必須體現人類個性,新聞作品這類作品類型將難以成立。在分析作品是否成立時將目光轉向創作過程,實則是突出人類在創作過程中的人格體現、意志形成、感情流露。歸根結底,即要求作品的屬性當中應當包含“人類個性”之成分。然而,在作品的眾多類型之中,也存在“新聞”這一不追求體現作者個性,而系追求客觀性的作品。第二,如果要求創作過程必須體現人類個性,適用“孤兒作品保護制度”將出現障礙。“孤兒作品”一般是指作者身份不明,但處于著作權保護期之內的作品。我國《著作權法實施條例》第13條規定:“作者身份不明的作品,由作品原件的所有人行使除署名權以外的著作權。作者身份確定后,由作者或者其繼承人行使著作權。”此條文不僅對孤兒作品的著作權享有人作出了規定,同時也對孤兒作品的性質進行了推定。推定孤兒作品必然體現人類個性,故而法律的保護只要求客觀上能夠判斷某事物為作品即可。然而,在人工智能產生之前,由于客觀上可稱為作品的“物”只能出于人類之手,法律作上述推定并無問題。但是在人工智能創作物客觀上無法與人類作品區分的當下,法律作上述推定便沒有了事實上的依據。此時,這一條文的繼續存在反而支持了獨創性概念當中不應包括創作過程中的人類個性之觀點,依此觀點法律對孤兒作品的保護方可沒有障礙地繼續進行,而無需在證據問題上陷入新的泥沼。

      其次,上述第二種觀點將獨創性的內涵與創作主體相關聯,實則不然。基本理由如下:第一,法律上未見創設主體之限制。不可否認,傳統上作者身份被認為僅屬于人類。盡管世界上的版權制度千差萬別,但有一個共同點,即版權以人類為中心,作者被認為是人。然而,人工智能創作物客觀上與人類作品并無本質差別,只有人類能夠“創作”的現實已然發生改變,傳統規則是否合理需要進一步考量。或許有國家在法律上認可了創設主體對作品的限制,如《德國著作權及相關權利法》第2條規定“本法意義上的作品僅指個人的智力創作”。但是,我國《著作權法》中未見此內容的規定,不必在探討獨創性內涵時故步自封。第二,著作權保護觀念已經發生“以作者為中心”向“以作品和讀者為中心”之轉變。在哲學經歷從主體性向主體間性的轉變之后,作者與作品之間不可割舍的聯系已經斷裂。而且,思想、表達二分法的存在相當于區分“作者身份”和“著作權”,區分作者向世界發送內容的范圍(思想和表達)和受法律保護的內容的較窄范圍(僅為表達)。既然思想、表達二分法逐漸削弱了作者與作品之間的因果關系,那么也無需通過創作主體限制獨創性的內涵。第三,客體屬性與權利歸屬之間不應混淆。雖然獨創性和作者之間的聯系糾纏不清,以至于偶爾會融合在一起,然而,限制只有人類之創作才可謂“獨”,意味著在探討權利客體的屬性時,通過權利主體予以限制,這難言妥當。因為創作主體為人類是一個權利歸屬問題,而獨創性概念所意圖說明的是權利客體的屬性問題,不能混淆權利客體的屬性與權利歸屬的法律技術的區別。

      再次,第三種觀點不能完整說明獨創性之概念,因而也不具有合理性。如果僅以“獨立完成”和“最低限度的創造性”作為獨創性概念的定義,則過度擴大了作品的保護范圍。第三種觀點的本意是避免對作品提出過高的要求,以至于大部分創作物被排斥在保護的范圍之外,進而影響有益于社會精神文明、物質文明建設作品的創作和傳播。但換一個方向思考,也正是因為標準過低,故而有過度擴大作品保護范圍的嫌疑,使得諸如一個人在沙灘游玩而留下的具有圖像的“痕跡”,隨意在紙上吐痰而形成的擴散的“水墨畫”,會因為恰好具有某類圖像的樣式,被認為具有獨創性因此屬于作品。

      2.獨創性概念判斷的應然解讀

      故而,僅分析獨創性之內涵尚不足以確立獨創性概念的具體內容,還應對獨創性的外延予以關注。如此,才能避免以偏概全,對作品劃定一個恰當的保護范圍。

      首先,獨創性的內涵由“獨立完成”和“最低限度的創造性”組成。第一,雖然作品如果不是獨立完成,而系抄襲之結果,也應當否決其具有最低限度的創造性,這兩個概念之間具有一定的聯系。然而,這兩個概念也不能完全等同,因為客觀上存在作品相似但作者相互之間并無抄襲的情形。在這種情形下,若將在后創作的作品與在先創作的作品相互比較,難言后一作品具有“最低限度的創造性”。但是,考慮到在后作品依然系在獨立完成的過程中產出,將其與該作者創作時接觸到的作品相比較,依然可以肯定在后作品具有最低限度的創造性。故而,肯定“獨立完成”的存在依然具有意義,其應作為獨創性的內涵之一。第二,在有關創造性的爭議之中,應當始終堅持對所有作品都采取“最低限度的創造性”標準,而不應作出區分。比如,有學者認為人工智能創作物的創造性應當比自然人作品的創造性更高,如此才符合具有“深度學習”能力的人工智能之“智能”要求。然而,倘若因為生成式人工智能具有“高智能水平”,就對其創作成果作出“高創造性”之要求,那么根據同樣的邏輯,人類中的大師所創作的作品也僅有“國家級藝術品”才能獲得著作權,而其平時的練習之作則不應當被著作權法所保護。顯然,這個結論并不妥當。總之,獨創性概念的內涵由“獨立完成”和“最低限度的創造性”組成。這一結論雖然與上述第三種觀點一致,但第三種觀點僅僅論述了獨創性的內涵,而未指出獨創性的外延,難免存在不足。

      其次,并非任何滿足“獨立完成”與“最低限度的創造性”的事物都在獨創性概念之中,對于著作權的保護應當有一定的邊界,因而需要對其核心要素的獨創性通過外延進行必要的限定。具體而言,其外延應當包括“思想與表達”的內容。雖然有一種觀點認為,“事實”也應當屬于獨創性外延的內容,但并不具有妥當性。具體理由如下:

      第一,獨創性的外延要求表達中應當體現思想。一者,思想是作品中的必要因素。誠然,“思想、表達二分法”的存在表明了著作權不保護思想,但是,著作權不保護思想,并不代表作品沒有思想。“思想、表達二分法”的存在恰恰證明了每一作品中都存在一定的思想,否則無需“二分”。二者,根據《著作權法》第3條之規定,作品系文學、藝術和科學領域內具有獨創性并能以一定形式表現的智力成果。其中,“文學、藝術和科學領域”是對作品領域的說明,不可能包含思想的內容;智力成果也系對作品表現形式的表述,也不包含思想的要求。故而,只能在獨創性的概念中要求作品系思想之表達。由于獨創性的內涵已經確定,因此需要通過獨創性的外延限制作品思想之表達。例如,對于人類做夢時不小心碰到墨水瓶而在紙上形成的圖畫,由于其僅為自然狀態下的“巧合”——同自然界鬼斧神工留下的刻在墻壁上的雕刻,或者猴子偶然按動快門拍下的照片沒有本質區別——而非思想之表達,故而不應認為上述繪畫符合獨創性外延的要求。此外,需要強調的是,這里的“思想”不應當被限制在狹義的人格體現、意志形成、感情流露等范疇。換言之,并不局限于“人類思想”。

      第二,獨創性的外延要求體現表達。獨創性外延中的表達方式既需要與既有作品不同,也需要表達方式并非唯一或有限。一者,如《與貿易有關的知識產權協議》第9條之規定:“版權的保護僅延伸至表達方式,而不延伸至思想、程序、操作方法或數學概念本身。”版權保護的核心是表達,對獨創性的判斷歸根結底也應落腳于表達。有觀點認為,著作權法下的獨創性最終指向的并非作品表達的外在結果而是內涵意義,外在表達相同而若內涵意義不同,也不屬于著作權侵權。然而,正如“一千個讀者會有一千個哈姆雷特”這句話所闡釋的一樣,一個作品的具體內涵意義本身就是模糊且可以具有多種理解的。倘若放棄對外在表達的要求,轉而通過追尋一個作品的內涵意義以決定獨創性之有無,那么抄襲之風將難以禁止。故而,原則上說,只有表達內容與既有作品不同,才處于獨創性的外延之中。當然,對這一限制的理解也不可保守和僵化,因為確實存在作者獨自創作但表達依然類似的可能,此時,也不妨礙所有作者都對各自的作品取得著作權。二者,根據《著作權法》第1條之規定,《著作權法》的制定目的不僅僅在于保護作者的權利,也在于促進知識的創作和傳播。因此,對獨創性外延的判斷也不能僅僅從作者的立場出發。所以,即便作者對某一創作物付出了大量心血,且該創作物所具有的文學、藝術價值令人驚嘆,但倘若該創作物是對某一思想、事實等因素的唯一、有限表達,該創作物依然不能獲得著作權保護。否則,基于表達的唯一、有限,社會上的其他主體將無法利用該作品背后所體現的思想、事實等因素進行創作,相關知識的生產與傳播將會受挫,《著作權法》的制定目的將難以完整實現。

      第三,獨創性的外延應當排除表達中的事實部分。事實不具有獨創性,不應獲得著作權保護,是一個顯而易見的共識。然而,對于一類特殊作品——事實作品——而言,這類共識的運用卻存在困難,以至于出現了事實本身也具有獨創性的觀點。顯然該種觀點不具有合理性,基本理由有二:一是,事實作品是以事實為基礎創作的作品或企圖反映事實的作品的統稱,可以區分為事實展示類作品、事實演繹類作品與事實還原類作品。前兩類作品對事實與獨創性之間的關系判斷并無錯誤,事實展示類作品雖可以具有獨創性,但其中所包含的基本事實不應被判斷是否具有獨創性,而屬于公有領域。事實演繹類作品則對事實進行了改編甚至“歪曲、篡改”,改編后的“事實”不再屬于客觀事實,若具有獨創性可以獲得著作權保護。二是,學界對于事實還原類作品存在誤解,因而產生了事實還原類作品也能獲得著作權保護的不當認識。事實還原類作品是通過創作來還原未知事實的作品,比如對某一歷史事件進行證明,對文物進行修復,或者對古籍進行點校、復原以還原其所缺失的內容等。以點校、復原古籍為例,一般而言存在是根據作者創作的意圖為復原古籍還是重新創作,抑或根據客觀上是否具有足夠的創造性來判斷獨創性的存在的爭論。然而,無論何種判斷方法都不妥當,問題的關鍵僅在于是否有足夠的證據證明所點校、復原的古籍與原意一致。因為,一方面聲稱復原的是古代手稿的歷史精確版本,另一方面聲稱復原是“原創”作品是具有內在矛盾的。意圖精確再現原作的行為僅僅復制了他人創作的作品,而古籍因為超過著作權保護期限成為“事實”。事實不是文學作品,因此無論是誰創作的,都無權獲得著作權保護。那么,倘若已經能夠證明所點校、復原的古籍為事實,自然無需再判斷其是否具有獨創性。

      總而言之,獨創性概念應從內涵與外延兩方面進行理解。在具體的判斷過程中,也應當先分析某類創作物是否符合獨創性的內涵,然后判斷這類創作物是否處在獨創性的外延之中。就內涵而言,獨創性由“獨”和“創”兩個部分組成,含義為作品系作者獨立完成,且從客觀上判斷具有最低限度的創造性。就外延而言,獨創性要求作品應當系思想之表達,要求表達內容與既有作品不同、表達方式并非唯一或有限,且事實從不落入獨創性的判斷之中。

      理論歸結:相關創作物應為刑法保護的對象

      生成式人工智能創作物能否獲得刑法保護,涉及的最核心問題是人工智能創作物是否屬于侵犯著作權罪中的“作品”。雖然目前人工智能的民事主體性地位在我國逐漸獲得認可,但是也不能由此必然得出人工智能創作物一定屬于“作品”的邏輯結論。筆者認為,對此問題關鍵還是要回歸到問題的本源中去追尋答案。下文便將人工智能創作物與獨創性的內涵與外延相比較,旨在說明人工智能創作物應成為侵犯著作權罪保護的對象。

      (一)相關創作物契合“作品”認定的內涵

      在生成式人工智能創作過程中,如AI繪畫的算法雖有無限豐富的模式與變體,但其在底層邏輯上設置了一種鎖定,其生成邏輯是簡單的,不可否認是特定程序的結果。且人工智能無法主動將創作物“發表”,需要依賴人類進行決定。此外,基于生成式人工智能的技術屬性,其所創作的內容對讀者而言可能并不“動聽”。不過,人工智能創作物在創作程序與創作內容中的這兩個特征,并不影響其與獨創性相契合。

      首先,從“獨”字判斷,人工智能創作物系由人工智能軟件獨立完成。具體理由如下:一方面,站在技術屬性的角度,“AI的本質是機器學習,機器會基于神經網絡來模仿人類學習繪畫的過程。開發者需要通過收集當前已有的圖像來讓機器學習,利用算法對圖像進行分類和識別并不斷訓練后,AI軟件才能‘畫出’一張令人滿意的圖片”。但是在具體的訓練過程中,開發者無法掌握AI的具體學習過程。人工智能不僅會在程序設計完成后獨立進化,而且是以不可預測的方式進化,即使對創作它們的人類程序員來說也是如此。故而,人工智能創作物的具體創作過程實際上并沒有人類的參與。另一方面,站在發表方式的角度,雖然人工智能創作物的最終發表依賴人類的“篩選”,如Stable Diffusion生成的圖畫可能會出現明顯的面部或肢體問題,因此媒體上見到的各類AI繪畫生成的“高質量畫作”往往是在大量魚龍混雜的產品洗刷中由人類精挑細選而得。這種“篩選”更加類似于一種編輯審閱稿件的過程,并不能因此認為人工智能創作物的創作主體依然屬于人類。故而人工智能創作物契合“獨”字之要求。

      其次,從“創”字出發,技術的進步保證了人工智能創作物的質量不斷提高,滿足了最低限度的創造性。一方面,結合前文對創造性要求的論述,由于創造性只需要具有最低限度即可,即便創造性在藝術上可謂拙劣,但只要是作者自己的就足夠了。況且,如今AI繪畫的質量明顯可以滿足大眾的需求,因此在國內引起了AI繪畫小程序的火爆。據此可見,人工智能創作物可以達到這一標準。另一方面,人工智能技術進步的過程可能比人類想象的快得多。例如,NVIDIA推出的一款低門檻文本生成3D模型Magic3D,該模型所生成的3D網格模型,未來可用于開發游戲或CGI藝術場景,并且還實現了從“圖像”到“動畫”的生成。“AI已經從單純地理解語言、文字、圖片乃至視頻,大跨步走向生成高質量內容的階段,這種內容覆蓋了以往被認為蘊藏人類才智的藝術創作”。由此可知,在未來,人工智能創作物滿足最低創造性的要求將更加容易。故而人工智能創作物契合“創”字之要求。

      (二)相關創作物契合“作品”認定的外延:思想與表達

      雖然人工智能創作物的特殊屬性依然被包含在獨創性概念的內涵之中,但以此認為所有人工智能創作物一概屬于“作品”的范疇也并非完全妥當。因為,如前所述,對于獨創性的外延需要通過“思想與表達”兩個要素進行必要的限定。就屬于人工智能生成物的人工智能創作物這一特殊形式的作品而言,是否具有獨創性仍然需要滿足外延條件。

      首先,人工智能具有強大的深度學習能力,具有一定的思想表達能力。傳統的人工智能都具有“人工智能神經網絡”。“人工智能神經網絡”使得人工智能能夠在數據的輸入輸出中模仿人腦的功能,像人類一樣學習、思考和行動。特別是隨著大數據以及算法的迭代和發展,人工智能能夠熟練地掌握深度學習能力,能夠在海量的數據以及信息之中選擇有價值的信息進行必要的推演和識別,從而得出更為可靠的結論。例如,“ChatGPT的橫空出世有望形成‘思維革命’,通過替代人類進行創作、創意、解答、咨詢、翻譯和客服等改變人類思考和處理問題的方式方法,由此重塑各行業生態乃至整個世界。”因此,就目前來說,人工智能無需借助于人類就能夠表達一定的思想。人工智能創作物也因此屬于思想之表達,滿足獨創性外延的要求之一。同時,也需要注意,若操作者僅僅將人工智能軟件作為一種輔助工具進行創作,則所創作之成果并未體現人工智能軟件的思想表達,故而該成果即便屬于“作品”,也應被作為人工智能創作物對待。

      其次,對如今的人工智能軟件而言,即便輸入同樣的素材,也可以產生不同的結果,故人工智能創作物滿足獨創性對表達的外延要求。不能因為人工智能創作物是某種程序設定的結果,就誤以為每一份人工智能創作物都是該程序的“唯一”表達。具體理由如下:第一,大數據的收集與深度學習技術的存在,意味著人工智能軟件時時刻刻都在發生“進化”,即便是屬于同一類型的人工智能軟件的不同“個體”,面對同一素材也可能輸出不同的結果。第二,“人工智能神經網絡”的使用預示了人工智能軟件的每一次輸出并非模板的固定套用,而皆存在類人的思考、隨機的選擇,故而即便是針對同一個人工智能軟件,其也可能對同一素材的輸入形成不同類型的輸出。因此,人工智能創作物雖然是某種程序運行的結果,但原則上并非“唯一”的表達。不過,不可否認,客觀上存在某種人工智能創作物的表達只有“唯一”的表現形式的情形。此時,由于對該類信息只存在“唯一”的表達方式,那么根據“合并原則”,在只有一種或者有限的幾種表達方式時,該類人工智能創作物也不在獨創性的外延之中,不應得到著作權的保護。除此之外的人工智能創作物,則處于獨創性的外延之內。此外,由于人工智能是在搜集大量數據的前提下通過深度學習等技術而產生創作物,故而,認為“作者獨立創作出來的作品,可能與現有作品相同或相似,不一定具有新穎性、首創性,但這并不妨礙該作品仍能獲得自己的著作權”的觀點在人工智能領域不能成立。在具體判斷人工智能創作物時,獨創性概念應當向客觀化傾斜,即從形式上考察其是否與現存的作品表達不一樣。

      此外,部分人工智能創作物表達的是單純的客觀事實,它們處在獨創性的外延之外,不應受著作權法保護。新聞界存在利用人工智能創作新聞的趨勢。例如,美國的美聯社在其“Wordsmith AI”中已使用深度學習技術為金融服務和體育賽事制作數百萬條新聞報道。《華盛頓郵報》推出的機器人寫作系統Heliograf,已經用于生產2016年里約奧運會的報道。我國新聞業運用人工智能軟件的速度也不遑多讓,如騰訊Dreamwriter、新華社“快筆小新”、今日頭條xiaomingbot等。習近平總書記明確指出,要“探索將人工智能運用在新聞采集、生產、分發、接收、反饋中”。問題在于,人工智能生產出來的新聞究竟是事實還是作品,是否應受到保護?事實與作品之間的區別,并不總是涇渭分明。原《著作權法》專門規定了“時事新聞”不受著作權保護的內容,也由此引起了諸多爭議。有學者指出,基于新聞作品同言論自由等公共利益的密切關系,新聞作品也必須另外具有“原創性”才不成為“時事新聞”而受到著作權的保護。然而,這種理解正是原《著作權法》“時事新聞”這一表達歷來受到指責的原因,因為其過于限縮對新聞作品的保護,也與作為此條款來源的《保護文學和藝術作品伯爾尼公約》相關條文的旨趣不合。根據《著作權法實施條例》第5條以及《最高人民法院關于審理著作權民事糾紛案件適用法律若干問題的解釋》第16條規定,則將法條含義限縮在“單純事實消息”,且得到修改后的《著作權法》承認。因此,只要新聞作品不屬于單純事實消息,且符合獨創性的概念,即可以被稱為作品,而不需要另外滿足更多要求。人工智能創作物也是如此。此外,在拋開“時事新聞”這一不合時宜的表達,而使用“單純事實消息”時,人工智能創作的何種新聞不被納入著作權保護也顯而易見。即當這種新聞的表達限于“5W要素”,該類人工智能創作物便不應得到如著作權一般的保護。

      綜上,即使人工智能的主體地位尚未有立法正式承認,但是從獨創性的內涵與外延出發,不可否認人工智能創作物已經滿足了獨創性的要求。因此,對于隨意侵犯生成式人工智能創造物的行為,當然有根據《刑法》第217條的規定予以追究的必要。

      方案優化:契合“未經許可”適格主體的路徑抉擇

      《著作權法》的目的是通過對作品的保護而形成激勵,從而鼓勵作品的創作和傳播。在人工智能創作物符合獨創性的前提下,是否需要刑法保護人工智能創作物不應成為一個問題,如何通過刑法保護人工智能創作物才是需要關注的重點。如前所論,在目前侵犯著作權罪的罪狀設定中,依然將“未經許可”作為實質的入罪條件之一。根據《最高人民檢察院、公安部關于公安機關管轄的刑事案件立案追訴標準的規定(一)》第26條的規定,“未經著作權人許可”是指沒有得到著作權人授權或者偽造、涂改著作權人授權許可文件或者超出授權許可范圍的情形。雖然目前有學者指出,“在著作人身權和著作財產權可以分離的前提下,承認人工智能生成物所承載的著作人身權沒有適格主體,并不意味著承認人工智能生成物所承載的著作財產權沒有適格主體”,但是該觀點還是沒有回答生成式人工智能生成物著作權的權利歸屬問題。為了保護人工智能創作物,承認人工智能的主體性應是未來的應然走向,但是,這并未取得學界的共識。域外看法亦不盡一致,既存在將人工智能生成的作品置于公共領域的方案,也存在引入相鄰權制度的觀點,有應當修改法律承認人工智能可以享有著作權的建議,還有將人工智能作品的著作權歸于軟件設計人或者使用人抑或所有人享有的方案。國內學者所提出的理論也頗為繁多,難以一一論述。觀點差異是研究常態,然而混淆解釋論與立法論的做法,卻不應當無視。對于學界給出的方案應當區分解釋論與立法論,這樣才可以既為司法機關的實時應對出謀劃策,也為立法機關的未來考量提供藍圖。故而,下文將通過分別論述解決人工智能創作物應用難題的解釋論思路與立法論思路,對人工智能創作物著作權保護最攸關的“著作權主體歸屬”“著作權刑法保護限度”這兩個問題作出回答。

      (一)司法運用的既有方案:“身份不明”的刑法保護

      1.著作權主體歸屬

      人工智能是否具有民事主體資格,并不是著作權法能夠解決的問題,也并非該法所承擔的任務,而應交由民法典進行規定。而在民法典對此未作規制之時,站在解釋論的角度,目前無法承認人工智能具有民事主體資格,也無法賦予其作者地位。除此之外,站在解釋論的視角為“設計人”“所有人”“使用人”“投資人”賦予人工智能創作物作者身份的方案也不符合著作權法的相關規定。

      首先,站在解釋論視角,無法為人工智能的作者身份找到著作權法律規范。有學者指出,可以將人工智能軟件視作《著作權法》第11條所規定的“非法人組織”,而為其賦予作者身份。這種觀點不具有合理性,具體理由有二:第一,“非法人組織”是能夠依法以自己的名義從事民事活動的組織,而人工智能軟件不能滿足這一要求;第二,“非法人組織”之所以能夠被視為作者,是因為其能夠通過自然人的意志貫徹組織的意志,從而借用自然人之手創作出作品,而這并不符合人工智能創作物的產生過程,因為人工智能創作物的產生并不需要依賴自然人參與創作行為。

      其次,站在解釋論視角,“設計人”“所有人”“使用人”“投資人”也無法獲得“作者”身份。雖然在人工智能時代,我們可以建構“作者—著作權人”的二元權利主體結構,對創作主體資格與權利主體資格實行界分。但是,皮之不存毛將焉附,建立“作者—著作權人”的二元權利主體結構的前提是確定人工智能創作物的“作者”為誰。而為了確定作者的身份,基于現行著作權法的規定,只有依據創作行為而成為“事實作者”,以及依據法律規定而成為“法律作者”兩種可能。

      第一,無論是“設計人”或者“使用人”,實際上皆未參與人工智能創作物的創作過程,不能成為“事實作者”。基本理由有二:一者,設計人不可能成為作者,因為人工智能創作物的產生已經脫離了設計人思想的影響。隨著深度學習等技術的進步,如今的人工智能系統具有“不可預測”和“不斷發展并能夠學習”的特征。人工智能的學習過程被認為是一個“黑匣子”,設計人只能看到輸入和輸出,而不能直接觀察到人工智能的學習過程。在這樣的前提下,設計人的思想也自然難以作用于人工智能創作物之上,而且在人工智能軟件由設計人轉交給他人之后,使用人使用人工智能的目的、具體選取的角度也不可能被設計人所預先控制。在這種條件下,人工智能創作物的產生并非設計人的思想表達,設計人不能成為作者。二者,“使用人”不能成為作者,因為使用人并未參與人工智能創作物的創作過程。有論者認為,使用人不僅僅啟動了程序,而且經常選擇、安排、編輯和潤色原始輸出,這支持了原創性的存在。然而,不能認為使用人對創作目的的安排、對創作素材的篩選可以被認定為屬于“實質性貢獻”。因為上述“安排、篩選”也是委托人可能對受托人提出的要求,而《著作權法》第19條明確規定“合同未作明確約定或者沒有訂立合同的,著作權屬于受托人”。顯然,著作權法并不認可委托人可以因為類似“安排、篩選”行為而當然具有作者的身份。

      第二,因為人工智能無法與自然人或組織形成雇傭關系,與“法人或者非法人組織作品”的類比不能成立,無法將上述四類主體認定為“法律作者”。表面來看,完全可以將人工智能的所有者視為作者,因為從機器學習的訓練角度看,所有者即為向人工智能注入其意志的主體,人工智能則可視為代表所有者的意志創作。在此情況下,人工智能的所有者被視為作者,完全沒有任何制度上的障礙。然而,誤以為此舉沒有制度上的障礙的緣由在于忽視了法人或非法人組織作品中隱含的構成要件,即具有雇傭關系。因為,雇傭關系存在與否,影響了作品產生時的主要要素投入者的不同、主要風險承擔者的不同、利用成果的效率不同。也因此才需要將作者身份賦予法人或非法人組織。然而,既然現行法律否認人工智能具有民事主體資格,顯而易見,人工智能也無法與任何自然人與組織形成雇傭關系。與“法人或非法人組織作品”的類比,只能作為立法的考慮理由,而不能直接成為司法的判決依據。

      再次,應當根據《著作權法實施條例》第13條關于“作者身份不明的作品,由作品原件的所有人行使除署名權以外的著作權”之規定,將人工智能創作物確定為“作者身份不明的作品”,從而在法律未修改之時予以保護。基本理由有三:第一,在現行法律制度下,無論是人工智能、自然人抑或法人或者非法人組織,都無法在著作權法未修改的情況下成為人工智能作品的“事實作者”或者“法律作者”。第二,無法確定任何主體為著作權法明確保護的人工智能創作物的作者,這完全符合“作者身份不明的作品”這一概念。第三,由于人工智能創作物原件的所有人為人工智能軟件的所有人,應基于《著作權法實施條例》賦予人工智能軟件所有人著作權,如此也可激勵更多人工智能創作物的產生與傳播,維持基本的市場秩序,促進社會主義文化和科學事業的發展與繁榮。在法律未作修改的條件下,以上方案是司法機關可以立即采取的,且完全符合法律規定與邏輯的方案。此外,在所有人取得著作權之后,其當然也可以通過簽訂合同的方式將著作權轉讓或許可給其他人。

      2.刑法保護的限度

      雖然人工智能創作物屬于“作品”,值得刑法保護,但是基于人工智能創作物相較于人類作品的一些特殊屬性,是否對其給予同人類作品完全相同的保護力度,依然不無疑問。不過,在將人工智能創作物確定為作者身份不明的作品時,并不需要對著作權的刑法保護進行限制。基本理由如下。

      首先,就保護時間和保護內容而言,《著作權法實施條例》第18條規定“作者身份不明的作品”的保護期截止于作品首次發表后第50年的12月31日,第13條規定“作者身份不明的作品,由作品原件的所有人行使除署名權以外的著作權”。保護時間的規定與法人或者非法人組織的作品相同,系對權利保護與促進知識傳播的平衡。無論人工智能軟件的所有者系法人或者非法人組織還是自然人,皆應當遵循這一規定。保護內容的規定則使得除“署名權”以外的著作人身權與著作財產權皆由所有人享有,這也恰好規避了“人工智能是否享有著作人身權”這一理論爭議,不會產生新的刑法保護難題或困境。

      其次,在保護范圍上,是否任何人工智能創作物都應得到侵犯著作權罪的保護也是一個問題。人工智能技術的進步也帶來了操作門檻的大幅降低,如用于AI繪畫的StableDiffusion,僅憑個人電腦即可驅動。如此一來,人工智能創作物數量將迎來井噴式增長。對此,有學者主張將生成式人工智能生產的內容全部放在公有領域之中用于合理使用,更具有合理性。然而,筆者認為并不需要對人工智能創作物的刑法保護范圍進行特別限制。第一,著作權法產生的目的是促進作品的創作,按照這一邏輯,著作權法也不應當因作品數量的“大量增多”反而選擇減弱對特定作品的保護。那么,作為二次規范的刑法在著作權法未減弱保護的情況下,當然也需要繼續發揮保障作用。第二,如果需要進行保護范圍的限縮,對于限縮的標準,“日本方面曾有過相關討論,認為在獨創性的前提下,只有‘受歡迎’并擁有‘一定市場價值’的作品才能得到保護”。然而,這一想法在實際運行中可能遭受障礙。一方面,人工智能創作物是否受歡迎或者具有一定的市場價值,只有在將其投入市場之后才能得到答案。那么,若等待其已經被市場接受然后決定給予著作權保護,則相關電子文件或者紙質復印件可能已經遍布社會,此時再給予保護為時已晚。另一方面,在此時不受歡迎的作品,在彼時成為絕世珍寶的例子并不鮮見,梵高的作品即是一例;而過去炙手可熱的作品,在未來也可能被束之高閣無人問津。選擇一個隨時可能發生變化的屬性作為是否施加著作權法保護的標準,并不合理。第三,對人工智能創作物進行一概保護并不會影響人類的創作。一方面,面對人工智能創作物數量的指數級增長,如果對于其中“低質量”“不受歡迎”的作品不予保護,反而會對僅能夠創作較低質量作品的人類作者產生更加不利的影響。因為同為低質量作品,“廠商”沒有理由不選擇使用不受著作權法保護而免費的人工智能創作物,而選擇使用依然會進行收費的人類作品。另一方面,對于高質量的人工智能創作物,因為著作權法中已經具有“思想、表達二分法”“合理使用”等各種制度,故而人類無需擔憂利用人工智能創作物所蘊含的因素進行再創作時,輕易便會被指控侵權成立。可見,刑法同等保護人工智能創作物,并不會減損人類的創作可能。

      (二)立法領域的未來展望:基于“投資權屬”的刑法保護

      1.著作權主體歸屬

      如果未來立法能肯定生成式人工智能具有民事主體地位,那么基于人工智能的創作行為,賦予其“事實作者”身份也就毫無疑問。雖然國際出版倫理委員會發布了一份題為《作者身份和人工智能工具》的聲明,認為人工智能工具不能被列為論文作者,理由是它們不能對提交的作品負責。但是,就著作權法相關的規定可知,作者身份歸于人工智能,也不意味著著作權也歸屬于人工智能。目前關于著作權歸屬的制度主要有兩種模式,一是創作者權屬模式,二是投資者權屬模式。前者基于“實質性貢獻”決定著作權歸屬,后者則出于“激勵理論”的立場,基于如何最大化激勵相關產品的產生與傳播而決定著作權的歸屬。創作者權屬模式決定了作為事實作者的自然人一般也是第一著作權人。然而,由于在目前的科技水平下,人工智能無法自主行使權利、承擔義務,故而只能采取“投資者權屬模式”決定著作權之歸屬。

      首先,在涉及法人或非法人組織時,借著作權法既有之規定,法人或非法人組織即可成為人工智能創作物的“法律作者”。將人工智能創作物視作法人或非法人組織作品的最大困難在于無法肯定組織和人工智能之間可以形成雇傭關系,但在立法承認人工智能具有民事主體資格的前提下,這一問題不再成為制度上的障礙。而這種雇傭關系的表現方式就是法人或非法人組織成為該人工智能軟件的所有人。在這一條件下,只要人工智能創作物的產生是代表法人或非法人組織的意志,法人或非法人組織都可以成為該作品的“法律作者”。

      其次,在涉及自然人時,應當將人工智能創作物的著作權歸屬于使用人。基于科技的高速發展與軟件的易復制性,可以生產人工智能創作物的人工智能軟件將逐漸在社會公眾之間流行。因此,僅僅憑借“法人或非法人組織作品”的相關規則,尚無法解決人工智能創作物可能涉及的所有著作權歸屬問題。由于“當前人工智能的作品創作行為尚需要人類的必要操作,因此為了激勵這種產生作品的操作行為,目前英國等普通法國家出于其法律實用主義傳統,將版權轉而授予操作者”。這一激勵原理無論在國外還是國內皆能成立,故而我國立法時也可以采取這一規則。

      再次,若人工智能創作物涉及職務作品與合作作品,也應該由法人或非法人組織享有除署名權以外的著作權,或者成為法律作者。第一,即便員工創作時自行使用了非組織所有的人工智能軟件生產出了作品,也應當適用《著作權法》第18條第2款的規定,將該人工智能創作物認定為職務作品,將署名權以外的權利分配給法人或非法人組織享有。因為,無論員工系自行完成作品還是憑借人工智能軟件創作作品,法人或非法人組織為其工作所付出的物質條件及資本投入是不變的。因此,若拒絕由法人或非法人組織享有相關著作權,則不當地忽視了員工與組織之間的雇傭關系,有礙資本的繼續投入與作品的良性產生,違背“激勵理論”。第二,就合作作品而言,由于人工智能創作物亦可以通過“文字+圖片”的方案組成,此時,若文字創作由人工智能完成,照片攝影由自然人完成,應該如何安排著作權歸屬?由于人工智能具有了民事主體資格,那么法人或非法人組織下的人工智能員工與自然人員工合作完成的作品,也自然可以被確定為“法人或者非法人組織作品”。

      2.刑法保護的限度

      基于前文所論述的規則,在立法論領域確定了“人工智能為事實作者、使用人為著作權權利人、法人或非法人組織可以成為法律作者”這一基本制度之后,刑法還需要對人工智能創作物的著作權保護作出以下限制。

      首先,就保護時間而言,雖然人工智能具有民事主體資格,但也不能賦予其如自然人一般的保護期限。否則,基于人工智能軟件客觀上能夠“永久”生存,相關自然人或組織則可以“永遠”保留人工智能創作物的著作權,這將有礙于知識的傳播,不應采取。在這一問題上,刑法需要規定包括人工智能創作物在內的人工智能作品,與法人或者非法人組織作品相同的50年保護期。

      其次,就保護內容而言,應當立法明確否認人工智能享有除署名權以外的著作人身權。在傳統著作權領域,著作權法允許作者身份與著作權權利人的分離,但即便如此,法律也并不允許其他主體享有除發表權以外的著作人身權。而且,即便意思自治是民事法律的基本原則,在作者另外轉讓著作權時,著作人身權也不被允許轉讓。以上事實決定了即便采取“投資者權屬模式”,也并沒有正當理由在承認人工智能具有著作人身權的同時,論證這類權利應當由他人代行。而由人工智能自行行使所有著作人身權,只有在“強人工智能”時代才具有可能。但是若社會進入“強人工智能”時代,也便沒有了普遍分離人工智能的作者身份與著作權歸屬,采用“投資者權屬模式”立法的依據。綜上,基于“強人工智能”時代的到來尚且塵埃未定,目前即便規定人工智能享有著作人身權,也僅能成為一種虛置。對此情況,不如直接否認其余著作人身權的存在,而僅保留人工智能作品的署名權,并將發表權歸屬于人工智能軟件使用人,以避免各類主體就此產生糾紛。具體在刑法的保護問題上,也應當由該類實質的權利人許可才能實施復制發行等相關行為。

      結語

      以ChatGPT為代表的生成式人工智能,憑借其擬人的互動方式,突破性地降低了人工智能的操作門檻,每一個人都可以憑借其進行工作的輔助、知識的生產,人工智能對世界的深刻影響與改變也由此初現端倪。作品創作領域也并未成為例外。但是在現有的法律尚未變更之前,人工智能對現行法律的沖擊也逐漸顯現,對于人工智能創作物的刑法保護問題便是縮影。站在解釋論的立場,司法者可以立即采取的方案是:由于人工智能創作的創作物具有獨創性,故應當將人工智能創作物作為“作者身份不明的作品”予以刑法保護。但以上只是一種臨時解決方案,并非不存在問題,其他論者的觀點也并非完全沒有道理。要想一勞永逸地平息這些爭議,最為妥當的方案是通過立法明確人工智能的民事主體資格。如果在立法之中予以明確,則可以在此基礎上依據“投資者權屬模式”對著作權主體歸屬與著作權保護限度等內容作出體系性的安排。如此,將能最大限度地化解刑法保護的困境,在制度上真正鼓勵網絡科技公司不斷創新,并最終造福人類。

      -向上滑動,查看完整目錄-

      《北方法學》2025年第6期目錄

      【刑事法學專論】

      1.法定犯出罪視角下的行政行為研究:實質、功能與路徑證成

      孫萬懷、李珈

      2.生成式人工智能創作物的刑法保護

      姚萬勤

      3.論防御型抗訴

      馬靜華、余長江

      【法學前沿】

      4.人工智能大模型價值對齊的法治化機制

      羅有成

      5.低空經濟發展的公私法協動保障論

      王浩然

      6.正當目的原則的獨立審查地位與結構功能定位

      陳杰

      7.論法規范的不重復與重復

      熊文釗、俞程

      8.與婚外異性“以夫妻名義”共同居住的法律評價

      ——《婚姻家庭編解釋(一)》第2條的再解釋

      王成

      9.論準法律行為的實施能力

      汪淵智、白一帆

      10.無效行政行為中“行政行為沒有依據”要件的認定

      周蘇湘

      《北方法學》雜志是經國家新聞出版總署批準,面向國內外公開出版發行的專業法學學術期刊,雙月刊,逢單月15日出版。《北方法學》由黑龍江大學主管主辦,稟持開放辦刊之理念,邀請國內外著名法學專家及資深教授組成編委會,打造國內一流法學期刊。國家新聞出版總署批復《北方法學》的辦刊宗旨為:“繁榮法學研究,服務法制建設,加強學術交流,培養法律人才”。《北方法學》雜志目前設置的主要欄目有:理論法前沿、部門法專論、專題研究、外國法研究、中外法史研究、實踐論壇、名家講壇、博士生論壇、學術綜述、譯評文叢、學術問題爭鳴、比較法論壇等。

      點擊進入下方小程序

      獲取專屬解決方案~

      責任編輯 | 郭晴晴

      審核人員 | 張文碩 王曉慧

      本文聲明 | 本文章僅限學習交流使用,如遇侵權,我們會及時刪除。本文章不代表北大法律信息網(北大法寶)和北京北大英華科技有限公司的法律意見或對相關法規/案件/事件等的解讀。

      特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

      Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

      北大法律信息網 incentive-icons
      北大法律信息網
      法律綜合性網站
      11205文章數 17503關注度
      往期回顧 全部

      專題推薦

      洞天福地 花海畢節 山水饋贈里的“詩與遠方

      無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 大地影院高清在线观看免费使命 | 一区二区三区午夜福利院| 国产一区二区三区四区五区vm| 伊通| 337p粉嫩大胆噜噜噜| 国产乱码精品一区二三区蜜臂| 激情一区二区三区成人文| 久久久国产一区二区三区四区小说| 91视频网站免费观看| 欧美整片sss| 色综合天天综合狠狠爱| jizzjizz在线观看| 日韩精品久久无码中文字幕色欲| 99久久久无码国产精品免费| 女人喷水高潮时的视频网站| 中文字幕亚洲欧美专区| 新河县| 少妇人妻无码专区视频| 亚洲日韩AV无码专区影院| 亚洲一本网| 久久永久视频| 精品无码人妻夜人多侵犯18| 专干老熟女视频在线观看| 国产亚洲视频在线观看| 五月综合激情婷婷六月色窝 | 综合色小说| 风韵丰满妇啪啪区老老熟女杏吧 | 久久久精品94久久精品| av一本久道久久波多野结衣| 免费无码又爽又刺激动态图| 狠狠色狠狠色综合| 国产98色在线 | 日韩| 人妻va精品va欧美va| 封开县| 两性午夜刺激性视频| 麻豆A∨在线| 超碰在线91| 国产一本二本三本在线观看| 国产综合色网| 视色网| 亚洲av片在线免费观看|