11月26日消息,OpenAI前首席科學家Ilya Sutskever在接受采訪時拋出震撼觀點:“Scaling時代已經終結。”這位AI領域的領軍人物認為,單純依靠堆算力、擴規模的路線已經觸及天花板。
Ilya Sutskever是以色列裔加拿大計算機科學家,師從圖靈獎得主Geoffrey Hinton。2012年獲多倫多大學計算機科學博士學位,曾參與創建AlexNet神經網絡,同年加入谷歌從事深度學習研究。2022年當選英國皇家學會院士,曾任OpenAI首席科學家、聯合創始人,2024年創立安全超級智能公司SSI。
在這場長達95分鐘、近2萬字的深度對話中,Ilya犀利地指出了當前AI的核心矛盾:“模型在各種評測中表現出色,但產生的實際經濟影響卻明顯滯后。”他生動舉例:模型修復一個bug時,會引入新bug;當你指出新問題后,它又把舊bug恢復回來,陷入無限循環。
Ilya將當下的大模型比作“競賽程序員”——過度專注特定任務訓練,導致泛化能力嚴重不足。對于Yann LeCun早年提出類似觀點卻未受重視的情況,網友紛紛調侃:“為什么我說的時候沒人當回事?”
“我們正從規模時代重新走向科研時代。”Ilya強調,AI發展需要更聰明的研究方法,而非盲目擴大參數規模。如今,他正通過其新公司SSI探索新的訓練范式,重點關注模型泛化能力與價值函數構建,為AI尋找新的突破路徑。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.