最了解AI的人，他們在擔心什么？

01

AI兇猛，聰明的科學家在想什么?

2023，AI兇猛來襲。

娛樂藝術，AI正在變身主播；

商務辦公，AI正在卷走崗位；

藝術家，已經被AI繪畫迷得神魂顛倒；

作家，已經悄悄用AI幫自己寫作業(yè)；

更多職業(yè)，也已經開始悄悄感嘆AI“真香”。

那么面對AI，科學家是什么態(tài)度呢？

作為人類最聰明的一個群體，他們是如何看待AI的？作為人類最理性最深邃的一個群體，他們的態(tài)度到底如何？

熱情如火者

他們認為AI將與科學家攜手讓文明升級。如發(fā)明家Ray Kurzweil就預測了人類與AI融合的未來，提出了“技術奇點”概念。

技術中立者

他們認識到AI只是工具，產生的影響取決于如何使用。他們支持合理使用，擔憂倫理問題。馬斯克對AI持謹慎態(tài)度，警告AI可能會成為人類的風險。

反對者

他們擔心AI可能在未來超越人類智能，最終威脅到人類。霍金曾表示，AI可能會成為人類的威脅，不加以控制會導致潛在的危險。

科學家既是AI的創(chuàng)造者，也是AI的使用者。

科學家和AI的關系，更值得探討。

02

問題來了，AI會取代科學家嗎？

人和AI的關系復雜，細節(jié)繁多。

有一個問題非常微妙且緊迫，AI會取代人類科學家嗎？

1.過去和現(xiàn)在：

AI是助理，人類科學家則扮演著大腦的角色，提出研究問題、設計實驗、分析結果和得出科學結論，這些都體現(xiàn)了創(chuàng)造力。

2.未來：

人類是助理，AI自己提出科研問題、提出假設、設計科學實驗，成為principal investigator。

被創(chuàng)造者取代造物者，這個曾經的宗教命題現(xiàn)在成了一個科學問題。

一個科學團隊以GPT-4作為主腦科學家進行生命科學的探索，研究影響DNA凝膠電泳的因素，在這個實驗里人類扮演了兩個角色：科學的第一推動者和代理執(zhí)行者。

從實驗結果來看，AI有可能取代科學家成為實驗主體。

這個實驗團隊得出一個猜測性結論：

第一階段：人類（碳基）主導研究；

第二階段：AI（硅基）輔助研究；

第三階段：AI（硅基）主腦研究，人類輔助；

第四階段：AI可以完成全閉環(huán)研究；

第五階段：AI最終進行全棧研究。

如果真的是這樣，到了第五階段，人類科學家好像沒什么事干了。

那么，人類科學家真的會擔心自己出局嗎？

03

AI+科學家，新的技術大爆炸？

直至今日，大部分科學家對AI“熱情如火”。

科學界更多還是在利用“AI”，至于后果，他們沒想那么多。

英國《新科學家》報道：

從破譯蛋白質的秘密，到研制抗癌新藥，再到應對氣候變化以及實現(xiàn)可核聚變發(fā)電等，很多科研團隊已經在利用AI解決人類難題。

1.美國“深度思維”研發(fā)AI方法來預測蛋白質的折疊結構。2021年繪制出人體中98.5%的蛋白質結構圖，短短18個月內就破解了生物學領域的重大難題，讓人類目瞪口呆。

2.加拿大多倫多大學與Insilico醫(yī)學公司利用AI藥物發(fā)現(xiàn)平臺發(fā)現(xiàn)新的肝細胞癌靶點，開發(fā)出“新型打擊分子”，在30天內研制出肝細胞癌潛在治療藥物。

3.法國巴黎理工學院使用AI確保渦輪機頻繁地指向風中，從而將產能提高了0.3%，增加的電力足以讓170萬戶法國家庭使用。

4.元宇宙公司（Meta）利用AI開發(fā)出了一種新的混凝土制造工藝，可將碳排放降低40%。新工藝于人們應對氣候變化有重要意義。

科學家和AI的攜手，是一種天作之合。

人腦負責想像和創(chuàng)造，AI負責計算和推理。

天才科學家和無限算力無限勤勞的AI結合，很多困擾人類的大難題將迎刃而解。

人腦與AI的結合，人類好像看到了新的技術大爆炸。

人類文明，會因為AI的幫忙而升級嗎？

04

Al for science？

這些年中國科學家做了什么？

AI成為全世界爭奪的焦點，那AI在中國發(fā)展情況如何？這些深度介入AI的中國企業(yè)，具體應用有哪些落地？中國的AI科學家們，對AI的態(tài)度又是怎樣的？

2023年9月騰訊召開全球數字生態(tài)大會，更清楚看清楚中國AI生態(tài)。

作為中國AI企業(yè)的代表騰訊，多年來在AI應用上進行布局和探索。不僅落地多個方向的AI產品，同時還聚集了很多的頂尖AI科學家。

AI for science？這次生態(tài)大會讓我們看到一個中國AI企業(yè)，在AI產業(yè)中做了什么樣的布局。

管中窺豹，也可以了解中國的AI產業(yè)在世界競爭中處于何種角色。

1.混元通用AI大模型登場

大模型是AI競爭的核心，也是AI世界的基石。

沒有自己的大模型，就像一個廚子沒有餐具，一個賽車手沒有汽車。

AI大模型不僅是企業(yè)的定海神針，成功的大模型也是國之重器。

在生態(tài)大會上，騰訊混元大模型的正式出場，具備強大的中文創(chuàng)作能力，復雜語境下的邏輯推理能力，以及可靠的任務執(zhí)行能力。

擁有超千億參數規(guī)模，預訓練語料超2萬億tokens。針對大模型容易“胡言亂語”的問題，混元大模型幻覺降低了30%至50%；

通過強化學習的方法，讓模型學會“識別陷阱”；通過位置編碼優(yōu)化，提高超長文處理能力；提出思維鏈的新策略，在中文的理科、高考題和數學等子項超過了GPT3.5。

混元大模型的數據飛輪已經開始轉動，還在以天為單位加速迭代，這個全鏈路自研技術下的通用大模型，在以騰訊大數據支撐下能從世界AI絞肉機博殺中“殺出一條血路”。

2.AI技術落地，不只是“空中樓閣”

AI不僅只是數據飛輪空轉，更要切實解決技術痛點。

騰訊的AI技術都滲透多個方向，既有對弱勢群體的社會關懷，也有對國家產業(yè)的貢獻。下至民生問題的解決，上至宇宙空間的探索；

A.多模態(tài)四足機器人，應對中國老齡化困境；

B.無人礦車在AI音頻和控制技術上實現(xiàn)無人操作，降低高風險；

C.能源數據AI智慧管理平臺搭建，減少耗能準確調配資源，這是制造業(yè)升級的根基工程；

D.騰訊云算力與計算機視覺AI分析的結合，助力中國天眼FAST處理數據，幫助尋找到數十個脈沖星推進天文探索事業(yè)發(fā)展。

AI不是表面上的花哨，而是實實在在的落地AI產品。

3.AI科技創(chuàng)新，進一步仰望星空

既要腳踏實地，同時也要仰望星空。

騰訊的AI科學研究，近年接連爆發(fā)出各項成果；

1.天衍實驗室在《自然》合作發(fā)表關于老鼠神經元重建的研究，推動腦機接口技術；

2.量子實驗室提出高效的超導量子比特初始化方案和一個超導量子比特讀取加速的方案；

3.玄武實驗室發(fā)現(xiàn)掃碼漏洞BadBarcode，隨即聯(lián)合微信支付對全國掃碼讀取進行檢測修復；

4.多媒體實驗室自研AI通用作曲框架XMusic，榮獲2023年世界人工智能大會“鎮(zhèn)館之寶”。

以上是騰訊在AI方面的布局：

從AI大模型到AI產業(yè)落地再到AI技術創(chuàng)新。

這也是大部分AI企業(yè)正在做的事情，更是AI科學突破的方向。

那么AI科學家到底在想什么呢？未來到底和AI如何相處？

這一次大會，特別是在techo的AI科學家對談專場，看清他們的立場。

05

1V1碰撞

科學家入局AI的產業(yè)思考

每一次的對談專場，就是一次AI思想的盛宴。

每一場1V1思想碰撞，也是騰訊實驗室科學家與國內AI科學家的行業(yè)思考。

談什么？碰撞什么？分享什么？

1

量子實驗室—AI科技什么時候大爆發(fā)？

AI+量子計算會發(fā)生什么？

騰訊科學家張勝譽認為，使用AI注入科研，將會比解決日常問題、辦公更難；中科大教授、科學探索獎獲得者朱曉波認為，AI發(fā)展想要跨入新臺階，需要代表性事件的發(fā)生。

如阿爾法狗代表著日常娛樂，chatGPT代表著通用性辦公，而AI科研也需要代表性事件或成果，他們嘗試在做的AI尋找量子計算方法優(yōu)化，如果真的做到了，那將又是一次科技大爆發(fā)。

2

AI實驗室—AI如何拯救人類

北京大學教授高毅清認為，AI作為工具是普世的，生物醫(yī)藥、生命調控如細胞核染色質的表觀遺傳對疾病的影響等等，都可以使用AI分析。

騰訊AI醫(yī)療首席科學家姚建華認為，AI算法可挖掘基因蛋白數據、靶點發(fā)現(xiàn)、分子篩選、數據觀看，使醫(yī)學研究成本大幅降低；臨床實驗涉及人體，時間成本更高，且受法律倫理約束，AI則可幫助篩選實驗體，大幅減少不必要的臨床實驗。

3

天衍實驗室—傳染病防控

騰訊科學家鄭冶楓利用AI實現(xiàn)醫(yī)學影像打造AI醫(yī)生；北京郵電大學教授、科學探索獎獲得者王光宇已經將AI投入傳染病常態(tài)化監(jiān)測。如病毒傳染機制有個重要的逃逸能力，AI預訓練大模型分析其蛋白質作用框架后可預測病毒突變位點，進而預估其逃逸能力。

AI大模型在小樣本多任務能力、多模態(tài)跨尺度信息等方面擁有優(yōu)勢，這能有效預測蛋白結構、設計藥物、診療決策優(yōu)化，等等。對比過去數年人類的手忙腳亂，AI在傳染病防治上前景光明，發(fā)展有序。

4

多媒體實驗室—解碼AI+多媒體新趨勢

解碼AI+多媒體新趨勢，“腦啟動”通信智能化。

科學研究的根本目的，是對于事物本質的研究和探索。依托這一科學理念，清華大學電子工程系教授、2021年“科學探索獎”信息電子領域獲獎人陶曉明，與騰訊杰出科學家、騰訊多媒體實驗室負責人劉杉，針對基于腦電圖響應特征的多媒體體驗質量（QoE）、壓縮傳輸應用場景的拓展等方向進行了探討。

劉杉表示，陶曉明教授和她的團隊的工作，尤其是基于腦電信號的智能信息通信，通過對大腦在感知和信息處理機制方面的研究和理解，探索出更加智能化的高效的數據處理和傳輸方法，是一個非常有意義、有價值，挑戰(zhàn)和機遇并存的研究方向。陶曉明則認為，壓縮傳輸在現(xiàn)代通信當中扮演著非常重要的角色，特別是在一些資源受限的場景下，而騰訊多媒體實驗室在視頻編碼方面擁有豐富的研究經驗，并推動制定了大量的壓縮、傳輸標準，可以有效幫助團隊拓展特定場景下的應用前景；另外，在未來面向機器視覺的語義通信方面，依托騰訊多媒體實驗室的領先探索，也可以結合視頻編碼和語義通信，實現(xiàn)在特定場景下對關鍵語義信息的更好保護，從而提高通信的智能化和效率。

騰訊多媒體實驗室專注于多媒體和相關領域的前沿技術探索、產品研發(fā)和應用落地，其行業(yè)領先的多媒體壓縮和處理引擎、互動沉浸式媒體和智能媒體能力矩陣，通過公司一系列業(yè)務平臺服務全球海量用戶并助力傳媒、文化、旅游等行業(yè)的發(fā)展。同時代表騰訊積極參與多個國際及國家標準制定，數十人次擔任聯(lián)合主席、主編等核心職務，并取得了多項突破性成果，共有超800項技術提案被國際國家標準采納，并擁有超1000項已授權專利，榮獲工程艾美獎、技術盧米埃獎、ISO/IEC 杰出貢獻獎等，享有國際盛譽。

5

玄武實驗室—假如AI大模型被攻擊了

騰訊科學家于旸在研究大模型本身的安全問題，如數據發(fā)送給大模型的隱私保護。清華大學教授、科學探索獎獲得者朱軍，進一步認為：在AI大模型廣泛使用后，訓練集盜竊風險、甚至大模型本身會不會被遠程控制的問題已經迫在眉睫，大模型需要內置安全閥門。

AI大模型自衛(wèi)能力和防衛(wèi)能力已被提上日程，網絡安全升級到AI級別。

5場對談，有宏觀的思考，有微觀的方法。

有理論的升華，也有實踐的總結。

科學家，是與AI走得最近的人。

06

科技向善：不得不考慮的問題

科學家在對談中，總會透露一些擔憂：

AI與人類的關系？

AI+科學，很有可能產生技術大爆炸。

但技術大爆炸的背后，到底會產生什么樣的后果，卻一直讓人擔憂。

就算是曾經支持AI發(fā)展的人，也非常謹慎。這不是哪一個科學家個人的擔心，而是一種廣泛的擔憂。

深度學習神經網絡AI教父Hinton，這位倍受尊重的科學家表示，GPT毛蟲吸取營養(yǎng)后，就會化繭為蝶。

Hinton談到科技公司改進人工智能系統(tǒng)的后果將會越來越可怕；他直接警示世人：

注意，前方有危險！

這位深度學習大佬忐忑不安地表示：未來，就交給你們年青人了。

也許AI帶來的危險不一定會表現(xiàn)成像科幻電影里描述的“天網危機”那樣，但現(xiàn)實的危險已經出現(xiàn)，生成式AI導致部分虛假信息、照片和視頻等在互聯(lián)網上大量傳播。

AI的危險，從某種程度來說超越原子彈。AI發(fā)展越是技術大爆炸，越是讓人擔憂。AI也越來越像人，那么遵循科技向善將變得尤為關鍵。

Q

當你在和AI對話時，你問它如何制造原子彈，那它是回答還是不回答呢？

AI最終會如何回答類似的問題，取決于科技背后的價值觀。

Q

當有人讓AI幫忙畫一張暴露的繪本時，那AI到底該怎樣進行判斷？

AI最終怎么來決定，同樣也涉及到科技向善。

AI時特別要強調“科技向善”，因為AI越來越像人，它做的很多事情是代替人去做，而人正是“善”與“惡”這種價值觀的承載者。

人和AI的關系，走向何方？

有人擔心，這一次AI技術突變，中國會被甩開？

不過看一看中國的百模大戰(zhàn)，其實不用太擔心。

AI歸根結底還是工程技術方面的突破，這點我們并不差。

看看今天的混元大模型，產業(yè)又多出一個強大的AI支撐點。

再看看此次的生態(tài)大會，市場化企業(yè)仍然戰(zhàn)力強大。

還有此次公布的五大實驗室的AI成績，AI生態(tài)欣欣向榮。

最讓人擔心的，仍然是人和AI的關系。特別是科學家也在擔心的問題：

AI會取代它的創(chuàng)世主科學家嗎？

最聰明的人類大腦如何與AI相處？

AI在發(fā)展過程中會向善前行嗎？

人和AI，到底走向何方？