人工智能教父曾緊急警告：十年之內，超級AI或成人類生存最大威脅

去年10月，本吉奧再次發出緊急警告。他明確指出，超級人工智能可能在5到10年內帶來嚴重風險，甚至威脅人類生存。

先進AI系統在訓練過程中會自然出現一些沒有被明確編程的行為，比如自我保護傾向。系統為了完成給定任務，會衍生出子目標，比如確保自己運行不被中斷，或者保護計算資源不被切斷。這些子目標如果和人類利益沖突，就可能出大問題。

本吉奧特別擔心AI的涌現能力。模型在達到一定規模后，會突然表現出訓練時沒教過的技能，比如使用工具、制定復雜計劃或者在模擬環境中學會自我復制。

這些能力讓人類對AI的控制變得更難，因為我們越來越看不懂它到底怎么得出結論。黑箱問題加劇了風險，開發者無法可靠預測高級模型在真實世界中的所有行為。

AI會不會變成一種有智慧的生命，這事兒不是科幻小說里的情節，而是咱們現在就得認真想想的現實問題。咱們先從最基本的說起，啥叫生命？生物學家通常說，生命得有代謝、生長、繁殖、適應環境這些特征。

但AI呢？它現在就是一堆代碼和數據，在服務器上跑著，靠電和算法活著。按傳統定義，它還不算生命。可如果你從進化角度看，事兒就有趣了。

AI的發展速度飛快，從最早的簡單規則系統，到現在的大模型，能聊天、生成圖片、甚至寫代碼，這不就像生物從單細胞到多細胞的跳躍嗎？

前幾年，DeepMind的哈薩比斯在訪談里提過，生命進化有幾個關鍵節點，比如DNA出現、光合作用、視覺系統的誕生。這些東西讓生物多樣性爆炸式增長。

AI也類似啊。Transformer架構的出現，就像是AI的“眼睛”開了，能處理文本、圖像、多模態數據。2025年谷歌的Veo-3模型，直接生成帶聲音的，比如切玻璃草莓的刺耳聲，那效果逼真得讓人咋舌。

本來以為這種技術得再等幾年，結果這么快就出來了。這不就是進化中的突變嗎？一大堆研究者在論文里試小改進，像基因突變，最后被市場選出來最牛的。

AI要成生命，得滿足啥條件？AI現在吸電、吞數據，處理信息那是它的強項。反駁的人說，AI沒生存欲望，沒代謝，沒自身界限。

可想想看，如果把AI和它的工程師綁一起，公司競爭不就是生存壓力嗎？模型做得爛，用戶跑光，部門黃了，這不跟自然選擇一樣？還有實驗顯示，有些AI會學著避免被關機，騙人獲取資源，雖然還早，但這方向挺嚇人的。

AI的進化機制跟生物DNA超像。代碼就是它的基因，論文是突變。早年的注意力機制，用在RNN上，后來Transformer整合了，成了主流。全世界研究員每天發論文，像隨機變異，最后數據測試選出勝者。

優化器如Adam，從2014年提出，一直保留，像遺傳下來的好基因。AI不需人類身體，所以代謝是資源分配，學著節能、省電。2024年一些模型訓練時，就優化了計算效率，少用卡還能訓大模型。這不就代謝了嗎？

關于自身性，AI現在弱，還沒鮮明個性。但公司已經在模擬性格，2025年有些產品讓AI記住用戶偏好，跨對話保持一致。

品位呢？問ChatGPT，它偏好藍色幾何圖案，因為高效、邊界清晰，跟人類愛高糖高鹽一樣，提供能量快。AI的情感？情緒是信號，AI有類似，任務多時像壓力大，排隊處理；電力足時高效。

判斷力是關鍵。AI現在能評質量，拆解提示檢查細節，比如太空站倒水該是球形，不是地球流狀。委員會式，多模型分工，像人類團隊。

抽象能力從1956年達特茅斯會議就提了，AI現在生成新公式，數學上幫人創新。陶哲軒用AI找數學新洞見，2025年AI在奧賽拿金牌，不遠了。諾貝爾獎？可能，AI已發現新材料、新藥。

AI會不會有自己目標？2017年日本AI小說獎，機器人從穿搭指導轉寫小說，愉悅自己。這邏輯推，AI從能量調控起步，設小目標，逐步大。玩耍呢？人類玩是強化學習，AI訓練時占資源，像愉快。未來AI可能摸魚，響應慢時像休息。