超級智能或引發人類滅絕？人工智能還學不學了？不能因噎廢食吧？

超級智能可能引發人類滅絕？

近日，這個話題成了全球熱點，因為有3000名科學家呼吁立即暫停人工智能的研發，其中還有一位中國科學家，他是中國科學院院士姚期智。

我總覺得有點夸大其詞，專家未免將超級智能說得太玄乎了，目前人工智能正在方興未艾，這時呼吁急剎車，將其視為潘多拉魔盒，是不是有點因噎廢食了呢？

到底是怎么回事呢？

今年10月23日，美國一家非營利組織叫“未來生命研究所”的，發表了一則聲明，警告超級智能可能將人類推向滅絕的邊緣，呼吁立即暫停，這份聲明聯合3000多知名人士簽名，其中有人工智能先驅杰弗里·辛頓、蘋果公司聯合創始人史蒂夫·沃茲尼亞克，還有中國科學院院士姚期智等。

這份聲明有以下幾個意思：

1.警告超越人類智能的AI系統可能帶來從經濟崩潰到人類滅絕的風險，必須立即暫停。

2.所謂超級智能，指的是在所有領域超越人類認知能力的人工智能系統。是人工智能迭代的產物。

3.聲明說，“超級智能的前景已經引起了人們的關注，其影響從人類經濟的落伍和權力的剝奪，自由、公民權力、尊嚴和控制權的喪失，到國家安全風險，甚至可能導致人類滅絕。”

4.未來，一個超級智能會發現通過操縱使用它的人類來獲取更多權力是輕而易舉的，之后它將從我們這里學會如何欺騙人類，它將操縱負責將它關閉的人類。

5.我們還沒有堅實的科學證據和切實可行的方法來確保超級智能的安全，使其不會給人類帶來災難性的風險。

挑戰不在于人類能否建立超級智能系統，而是一旦它們存在，人類能否控制它們。

6.如果以50年為限，超級智能一定會到來。

這份聲明不啻于在全球科技界投下一顆震撼彈。

雖然有3000多名科學家呼吁在“安全可控開發超級智能的廣泛科學共識”形成前，暫停相關研發。

但是還是有很多爭議的，主要有：

1.“超級智能”是否為炒作？

有觀點認為，當前AI仍屬“弱人工智能”，“超級智能”概念繼承了“超人工智能”的模因，是“模因大雜交的產物”。

支持者指出，一旦AI具備自我改進能力（遞歸式自我優化），其發展速度將遠超人類預期。

然而，現在預言超級智能會滅絕人類，有點炒作的意味。

2.風險是否被夸大？

部分學者認為，氣候變化、核戰爭等風險遠高于超級智能。超級智能還是可控的。

3.監管是否可行？

批評者指出，暫停研發可能導致技術壟斷（如僅少數國家/企業掌握核心技術）。但支持者認為，全球協作制定安全標準是避免“失控競賽”的唯一途徑。

如今，人工智能是個熱門學科，高考生填報志愿，很多同學都盯住人工智能，然后是計算機，然后是電子通信自動化之類。

4.美國民調顯示，73%的美國人希望對先進AI進行強有力監管，64%支持暫停超級智能研發。

人工智能英語縮寫為AI，簡單地說是指由人工制造出來的，并由電腦系統所表現出來的智能。

如今電動車的無人駕駛系統，電動車屏幕指揮系統，還有手機上的支付掃臉技術就是人工智能。

神奇的是，人工智能會自我迭代，AI通過連接并理解物理世界，實現自主學習與進化，最終達成超越人類的飛躍。

這個從學習人到輔助人，再到超越人的框架，就實現了超級人工智能。

一些人害怕它一旦成為超級智能，其能力遠遠超過人類，它就會主宰人類，甚至滅絕人類。

但是，不要忘了，人工智能是人研究出來的，人類既然能夠創造它，也能夠控制它，因此，我贊成繼續研發人工智能，并建立更為完善的控制系統，而不是因噎廢食。

如果按照這些專家的理論，讓世界上大部分國家暫停研究人工智能，只允許少數發達國家擁有，形成一種新的壟斷，那才是最可怕的。

因此，人工智能自我迭代能力既是機遇也是挑戰。一方面，自我迭代的AI可以幫助我們更好地防御網絡攻擊、發現安全漏洞、預測和應對各種安全威脅。另一方面，如果AI的發展失去控制，可能會被用于發展高級黑客工具、自主武器系統等，這些都可能對人類社會安全構成威脅。

所以說，加強對AI技術的監管和控制至關重要。

如今，我國幾乎所有的985高校都設置有人工智能專業。

人工智能專業排在前十幾名的大學是：

清華大學、北京大學、上海交通大學、中國科學院大學、中國科學技術大學、浙江大學、南京大學、中山大學、西安電子科技大學、西安交通大學、復旦大學、中國人民大學、北京航空航天大學、天津大學、電子科技大學、南京理工大學等等。

根據中國教育部門測算，我國人工智能人才目前缺口超過500萬，國內的供求比例為1：10，供需比例嚴重失衡。

人工智能前景非常廣闊，任何事物都是有兩面性，我們不能因為人工智能的弊端而放棄，更不能掉進某些大國故意布置的“陷阱”。

你對這件事情怎么看呢？請在評論區里留言，謝謝友友的關注。