劉永謀：AI能成為自動知識生產機器嗎？AI4S哲學反思的主要問題

*中國人民大學吳玉章 講席教授 劉永謀首發于微信公眾號，保留一切知識產權，侵犯必究。

王東著：人工智能與科學發現：一種哲學探索，北京：知識產權出版社，

超級AI之后，我們研究最重要的問題是AI4S/AI4SS的哲學反思。在我看來，AI4S中的科學（S）應該包括社會科學（SS）。該項研究最重要的問題，或者最當先的問題，無疑是AI4S哲學反思究竟應該反思什么問題。

要回答該問題，就應該對AI4S出現的背景以及目前進展、未來預測等智能技術相關問題有非常充分的了解。一定要記住：科學新實踐催生我們要思考的問題，而不是某種理論癖好如科學哲學新進展指導我們的反思。

我之所以這么說，是讀完王東《人工智能與科學發現：一種哲學探索》的感觸。王東是我的師弟，他的這本書是國內最早AI4S方面的原創性著作。這本書總結了AI4S領域的新進展，也嘗試從哲學層面做了一些反思，在國內多少有些開創的味道。

但是，這本書的哲學分析部分，明顯是從科學哲學理論發展的角度思考AI科研——AI用于科學研究活動的產物——的進路，因而大量內容是對科學哲學新進展的介紹，與AI4S的實際結合不緊密。正確的思路是找尋在目前AI科研實踐中大家最關心的問題，然后用哲學的方法進行反思，所用的理論資源不一定是科學哲學，也可以是其他的哲學資源。

總的來說，AI科研哲學反思的核心問題是：AI在科學研究領域的應用，對科研活動會產生何種沖擊？這里面的沖擊，不僅包括認識論、方法論的沖擊，也包括倫理學、社會學的沖擊。

王東主要歸納的是認識論和方法論方面的討論。主要包括：1）目前AI用于科研深入到科學發現的什么層次？2）是否存在科研的第五范式？3）目前AI能不能自動進行科學發現？4）生成式AI的可解釋性問題，即生成式AI生成過程是否真的是黑箱。

從更廣泛地AI科研哲學反思的角度，還有許多問題值得研究。

比如，一個重要的問題是：AI科研替代問題，即AI大量應用于科研活動，會讓很多人失業。在科研活動中，大量的工作是重復性、機械性的，這就是所謂“科研民工”做的事情。AI替代科研民工會到什么程度，而這種替代會如何改變整個科學建制。

比如，AI科研成果的所有權和版權問題。在目前這種知識產權制度下，如何保證AI生成知識能開源和共享，畢竟目前生成式AI主要控制在AI企業手上。

比如，AI知識的根本性質問題，或者說它算不算知識呢？古老的泰阿泰德問題區分知識與意見，說的都是主體知識、人的知識。AI知識是不是無主體知識，無主體知識究竟是什么？我的意見是，它與主體一起作為知識發現者，而不是獨立主體。

比如，AI4SS的科學性和限度問題。以前一直說社會科學知識不靠譜，現在用AI就靠譜了嗎？AI4SS實際是新一波社會科學自然科學化，方法是借助新工具的自然科學化。這樣生產的新知識真的有如自然科學知識一般的客觀性嗎？我們應該奉之為金科玉律，運用于當代技治社會之中嗎？

再比如，AI用于科研是否有限度，還是說能用盡用呢？AI知識是相關性知識，與之前的因果性知識有什么關系？我們懷疑是否存在絕對客觀中立的實驗，懷疑觀察滲透理論，那是否存在客觀中立的數據，AI生成知識之基礎的數據是否有某種前見？在科學中只有第一沒有第二，所有才有優先權之爭，AI再發現的意義何在。再發現與新發現是對稱的嗎？

要注意：這些問題的討論，是以目前AI發展狀況得出的結論，能基于可見展望進行前瞻很不容易。

我想這里面有很多有意思的問題。在接下來的閱讀中，應該會有更多問題產生，然后總結歸納分類，可以形成AI科研哲學的大致輪廓。

以下把《人工智能與科學發現：一種哲學探索》的內容錄于其后。這本書最重要的是比較全面地介紹了當前AI4S的進展。

王東著：人工智能與科學發現：一種哲學探索，北京：知識產權出版社，

1

部分

機器學習與科學發現的層級

1

智能驅動的科學發現

介紹一下

AI4S

現狀，主要包括在天文學、宇宙學、物理學、生物學與醫學、數學領域的科學新發現，以及在基于

AI

的科學再發現工作，即用

AI

尤其是極其學習技術自動再發現已有的科學概念、再提出已有的科學公式。

40

但是從目前的情況看，說人工智能能夠部分替代人類科學家，或者能夠發現重要的科學知識還為時尚早。從人工智能參與科學新發現的情況來看，目前的發現主要還是集中于對新“現象”的發現，或者在已知某個領域基礎知識和變量的前提下，對某些具體現象的經驗規律和模式的找尋，也就是給某些特定現象建模。

2

機器學習

機器學習的科普介紹

提及

AI

的可解釋性問題。

3

人工智能與科學發現的層級

討論不同層級和種類的科學發現活動中，

AI

能起到什么作用。

4

數據與智能驅動科學發現相關的爭論

第一，是否存在科研的第五范式？即從數據密集型科學研究

數據驅動型科學研究范式進化到智能驅動科學研究范式。格瑞提出四種范式理論：經驗科學范式，理論科學范式，計算科學范式，計算驅動科學范式。現在有沒有第五種新范式？有本譯本《第四范式：數據密集型科學發現》。

第二，

AI

能不能自動進行科學發現，不需要人類科學家了？

2

部分

機器學習與科學發現的關系

專門分析一下機器學習即這一波生成式

AI

或大模型在科學發現中的作用。

5

科學理論的結構和內容

科學哲學的認知進路

VS

科學哲學的具身智能

這一章沒有什么

AI

，主要是科學哲學新進展

6

科學與數學認知

數學哲學新進展

7

機器學習與科學發現過程

這一章才切入

AI

，討論了機器學習與發現邏輯、認知同構理論。

3

部分

案例研究

8

語言模型與科學發現

9

科學史案例建模研究