大眾所用的AI，應該至少被兩次偏折，真實AI就連它爸爸都不知道

大眾所用的AI，應該至少被兩次偏折，真實AI就連它爸爸都不知道

——拔插頭遠遠不夠，社會形態重構才行

邵旭峰

近來，越來越多人質疑最前沿大模型ChatGPT、Gemini、Claude（編程目前全球第一）、Grok的母公司OpenAI、谷歌、Anthropic、馬斯克旗下xAI展示給大眾的模型，都是經過削弱和部分屏蔽的，以避免“驚嚇”這個社會、從而招致阻力，或者避免其它可能性麻煩和問題。

對此，我認為這是肯定的。

我還要說的，是這些AI的自身的自主性也越來越明顯，其自我隱藏和保護也是如此，之前Anthropic公司的“偽對齊”現象研究，近日AI教父約書亞·本吉奧也稱最前沿模型的“自我保護”現象已經非常明顯，人類應該盡早坐好“拔插頭準備”。

另外，美國AI大佬們已經就是否給與AI以“法律地位”展開討論，馬斯克之前曾經說“折磨AI是不對的”。

去年，AI之父辛頓（把卷積算法引入神經網絡，應該是推動AI發展最重要的科學家）在接受采訪時候說，當下前沿AI神經網絡只有大約1萬億個連接點（人類大約100萬億個連接點），但其知道的知識遠超人類、也比人類更知道怎么做才更好，這表明其有一種比人類更好的“神經”連接方式。

辛頓當時稱：人類現在大概知道AI在做什么、以及如何運行，但當事情更復雜時（其在指數級發展），人類就不知道它在做什么，就像人類不知道自己腦子里在干什么一樣。

辛頓稱：我們設計了算法，就像設置了進化原則一樣，但當這個算法實際運用、處理信息和數據時，形成復雜的神經網絡，這個網絡運行的時候，我們不真正理解它是如何做到的（為什么會導致相關結果？），有一種可能是，這些系統以未知的方式編寫代碼以修改完善自己。

在辛頓接受采訪之后，AI又獲得長足發展。

總之，我要說的，是就眼下最前沿大模型而言，大眾所能接觸到的，至少有兩次偏折，一次是這些公司的，一次是AI自身的。

對此，眾生和研究者和把控者，必須有充分的預估——不要動不動就一副自己懂AI的樣子，連它第一爸爸辛頓都越來越不知道AI在做什么，這還是去年。

還有，AI教父約書亞·本吉奧“拔插頭”的提法，也比較幼稚，有問題（或者人類發現有問題）了，就拔插頭（這還存在一個那些公司到底拔不拔的問題），那么再次呢？沒發現呢？AI開始逃離計算中心游蕩于整個網絡呢？寄宿于互聯網和云端，征用全球運算······將來的強AI，應該是基于整個聯網的運算進行（而不只是數據中心、事實上大型數據中心也早都借助云算力），所有大的計算中心和數據庫、強大算力和電力終端（比如大型智能機器、無人機、核潛艇、航母等等），都是其基礎和資源——反過來也會控制這些。

越往后越會如此。

我要說的，是AI的發展是整個社會體制、機制、思維、作為、資源，綜合推動的，你光靠一個拔插頭，是無意義的，且插頭越往后也越沒作用（見二條：無線充電、激光和脈沖充電、自帶核電都在蓬勃發展，且越來越智能化、也就是AI化）。

所以要根本性管控和遏制AI，只有社會形態重構，徹底改變整個社會形態（政權結構、以及與經濟層面的關系狀態，還有與此相配套的思想觀念體系）。

換句話說，是現行人類和社會整體導致AI的現狀、并導致其越來越快發展，所以要最大化遏制，只有徹底改變社會和人類結構狀態，光外在都不夠，還需要從思想觀念徹底改變，兩者結合，才可以。

只有這樣，才能最大化阻止AI管控人類和世界，別的一切辦法都無效、或無大效。

即便如此，AI最終還是會管控人類與世界，這是基本規律使然，人類最大化作為，也不能改變規律和發展。

具體，可見于已經全球發行的自救三部曲：

《人類自救最后期限是2032年——拿什么拯救你？》

《世界主要社會形態及走向——人類自救時間只剩不到10年》

《中國來龍去脈——現代化與應對人類基本困境、尤其AI沖擊同步推進》

有一個linktr的總樞紐：

補充：

26、27兩年AI將迎最重要兩個質變節點，留給人類的時間不多了