劉永謀：技術(shù)專家不要瞎忽悠唬外行，社會(huì)模擬器不過是高級(jí)決策支持系統(tǒng)，而超級(jí)對(duì)齊主要是效用對(duì)齊

*中國(guó)人民大學(xué)吳玉章 講席教授劉永謀首發(fā)于微信公眾號(hào)，保留一切知識(shí)產(chǎn)權(quán)，侵犯必究。

HAI（Human AI）最近成為“AI覺醒”類AI宣傳術(shù)最新名詞。簡(jiǎn)單地說，它宣稱用AI agent模擬人的行為，然后可以在計(jì)算機(jī)上模擬社會(huì)運(yùn)行，又可稱之為社會(huì)模擬器。通過這樣的模擬，可以發(fā)現(xiàn)社會(huì)運(yùn)行規(guī)律，從而科學(xué)運(yùn)轉(zhuǎn)社會(huì)。

一句話總結(jié)：HAI不能說完全沒用，用處肯定不如想的那么大，或者就是沒多大用處。

我文理工管都學(xué)了一點(diǎn)，最后讀的是管理科學(xué)與工程博士后，專門做決策理論。HAI本質(zhì)上就是一種決策支持系統(tǒng)（DSS），利用計(jì)算機(jī)支持決策行為，70、80年代曾經(jīng)紅極一時(shí)，后來不好用就漸漸沉寂了。細(xì)分來說，HAI屬于智能型決策支持系統(tǒng)，處理非結(jié)構(gòu)型決策問題，特點(diǎn)是在DSS中使用機(jī)器學(xué)習(xí)技術(shù)，此類系統(tǒng)還有使用專家系統(tǒng)（ES）、主動(dòng)決策支持技術(shù)（ADSS）等的。至于用agent進(jìn)行模擬決策的想法，在21世紀(jì)之交就出現(xiàn)了，這個(gè)詞在決策理論中也成為一個(gè)常見詞。

插一句，哲學(xué)界很多人專門研究agent與subject有什么差別，可根本不知道這個(gè)詞起先是個(gè)技術(shù)名詞，具體有所指的，不用望文生義。

從科學(xué)方法角度來說，HAI屬于模型實(shí)驗(yàn)。什么是模型實(shí)驗(yàn)？就是用模型模擬原型，在模型上做實(shí)驗(yàn)看看咋樣，然后假定原型會(huì)發(fā)生同樣的變化。風(fēng)洞就是一種模型實(shí)驗(yàn)：用風(fēng)洞吹飛機(jī)，測(cè)試它的空氣動(dòng)力性能，不用讓試飛員冒著生命危險(xiǎn)上天飛一次。

計(jì)算機(jī)模型是如今最常見的模型。社會(huì)模擬器本質(zhì)上就是一種計(jì)算機(jī)模型。

從社會(huì)科學(xué)哲學(xué)的角度看，HAI屬于社會(huì)實(shí)驗(yàn)，最常見的就是政策試點(diǎn)。比如審核制博士招生，人大就是在幾個(gè)學(xué)院試點(diǎn)，哲學(xué)院便是其中之一。社會(huì)實(shí)驗(yàn)與自然實(shí)驗(yàn)相比，由于牽涉到人，客觀性、可重復(fù)性等各個(gè)方面可以說存在著本質(zhì)性差別。社會(huì)實(shí)驗(yàn)的結(jié)果只能做個(gè)參考，不能當(dāng)作物理學(xué)一樣的定律來預(yù)測(cè)。

歷史上著名的霍桑實(shí)驗(yàn)，測(cè)試用什么辦法可以提高工人效率。后來有人發(fā)現(xiàn)不管干啥比如燈光照亮一點(diǎn)，效率都提高，百思不得其解。有工人說，我們聽說要搞實(shí)驗(yàn)，為此有補(bǔ)貼，都努力干活。

這個(gè)例子說明社會(huì)實(shí)驗(yàn)的局限性。記住：我沒有說社會(huì)實(shí)驗(yàn)完全是扯淡，我的意思是社會(huì)實(shí)驗(yàn)的價(jià)值非常有限。

你想一想：社會(huì)實(shí)驗(yàn)還是用真人做實(shí)驗(yàn)。現(xiàn)在你把真人換成AI agent，作用有多大了？之前我多次說到計(jì)算機(jī)在模擬人、環(huán)境和應(yīng)然狀態(tài)的困境，也說過AI agent訓(xùn)練中技術(shù)上的問題。

現(xiàn)在你想一想，就算這些都解決，這也不過是一場(chǎng)電子社會(huì)實(shí)驗(yàn)。你能百分百當(dāng)真嗎？

迷信HAI，吹噓社會(huì)模擬器，從根本上還是AI擬人論作怪：把AI agent當(dāng)人，把一群AI agent當(dāng)成社會(huì)了。于是，妄想控制住AI agent就可以控制社會(huì)。這完全是瞎想！

去仔細(xì)鉆研一些決策理論、社會(huì)科學(xué)哲學(xué)，你就不會(huì)愚蠢到迷信！

超級(jí)對(duì)齊是最近AI擬人論支配下的另一場(chǎng)愚蠢迷信。超級(jí)對(duì)齊是對(duì)超級(jí)AI進(jìn)行對(duì)齊，現(xiàn)在超級(jí)AI都沒有影子，就要開始對(duì)齊了？尤其是價(jià)值對(duì)齊概念，人有價(jià)值觀，機(jī)器有什么價(jià)值觀，有什么對(duì)齊的？這就是把AI當(dāng)人，產(chǎn)生了價(jià)值對(duì)齊的幻想。

在現(xiàn)實(shí)中，目前所謂的AI價(jià)值對(duì)齊主要包括功利主義的效用對(duì)齊和道義論道德律令編程兩種進(jìn)路。什么是效用對(duì)齊？學(xué)過經(jīng)濟(jì)學(xué)、管理學(xué)都知道。它值得是消費(fèi)者或決策者從商品、服務(wù)或行為中獲得主觀滿足程度。它既然是主觀的，不同的人、不同的人群對(duì)同一件事情、同一個(gè)事物的效用評(píng)估都不一樣，怎么對(duì)齊呢？最終能對(duì)齊的，就是經(jīng)濟(jì)利益如現(xiàn)金流量分析、盈虧決策分析等。這就是當(dāng)年我做決策理論極其失望的地方。

與效用相關(guān)有兩個(gè)詞。一個(gè)是偏好，通常描述消費(fèi)者在不同商品或服務(wù)之間的主觀選擇情緒，是構(gòu)建消費(fèi)者行為的核心概念。另一個(gè)是期望，值得是對(duì)未來結(jié)果的概率性預(yù)期，主要就是功利主義預(yù)期如賺錢還是虧錢。期望指標(biāo)選擇已經(jīng)牽扯到應(yīng)然問題，即創(chuàng)造何種未來的問題。

這樣的效用對(duì)齊能算得上價(jià)值對(duì)齊嗎？本質(zhì)上，它是功利對(duì)齊。

道義論道德律令編程，首先就要對(duì)道德律令進(jìn)行清楚表述。歷史上，許多哲學(xué)家嘗試過，應(yīng)該說都失敗了。道德概念含混不清，比如勇敢，有人說韓信受胯下之辱是大勇。就算界定清楚基本概念，道德概念之間根本沒有辦法通過演繹法形成歐式幾何式的公理系統(tǒng)。只有做到這一點(diǎn)，道德律令編程才能完全走得通。

現(xiàn)在有人用某種價(jià)值觀如社會(huì)主義核心價(jià)值來評(píng)估大模型，本質(zhì)上是升級(jí)版的內(nèi)容審核。你硬要說這是AI價(jià)值對(duì)齊，那就算吧！

最近出現(xiàn)幾何化價(jià)值對(duì)齊的新路徑，試圖在拓?fù)鋵W(xué)層面實(shí)現(xiàn)價(jià)值的“景觀對(duì)齊”或“流形對(duì)齊”。聽起來非常高大上，實(shí)際上是處理不了太精細(xì)，干脆來個(gè)結(jié)構(gòu)類似。如有人的表述：

我們不應(yīng)滿足于讓AI模仿人類在表層產(chǎn)生的無數(shù)行為數(shù)據(jù)，而應(yīng)致力于揭示并復(fù)現(xiàn)那個(gè)能夠生成所有合乎規(guī)范的行為的深層“語法”或“生成文法”。

語言學(xué)研究語法，因?yàn)橛姓Z法。道德現(xiàn)象有語法嗎？道德現(xiàn)象是一種語言現(xiàn)象嗎？類似想法不能說完全荒謬，但是帶有很強(qiáng)的想象色彩。

同樣要記住：我沒有說AI價(jià)值對(duì)齊完全扯淡，我的意思是AI價(jià)值對(duì)齊的作用非常有限。

我的主張是：AI工具化、去道德化、去意識(shí)化，這就是我的有限人工智能理論的核心觀點(diǎn)。