NVIDIA黃仁勛五月最新訪談完整版：堅持、創新與AI未來 （全文+視頻）

未經許可請勿轉載，保留原文出處鏈接和公眾號按鈕

文：天空之城·城主

最近幾天，Stripe創始人Patrick Collison與NVIDIA的首席執行官黃仁勛同臺現場訪談，他是科技行業任職時間最長的CEO，已經擔任了31年。

黃仁勛強調，做偉大的事情并不容易，需要付出努力和承受困苦。他分享了自己作為移民的經歷，以及父母如何通過努力工作教給他們人生經驗。從小就開始工作的黃仁勛，無論是清潔浴室還是在餐館工作，始終堅持盡自己最大的努力去做好每一件事。

作為NVIDIA的CEO，黃仁勛領導著一個60人的團隊，他堅信這是最佳的管理實踐，盡管這在傳統觀念中并不被普遍接受。他強調信息的重要性，認為每個人都應該有平等獲取信息的權利，這樣才能賦予他們權力。黃仁勛反對一對一的談話，而是傾向于在所有人面前進行討論和反饋，因為他認為這樣可以讓每個人都從中學習。

談到公司的層級結構，黃仁勛認為CEO的直屬員工應該有60人，這樣可以減少公司的層級數量。他不鼓勵一對一的交流，而是希望每個人都能了解公司的情況。此外，黃仁勛表示他不喜歡解雇員工，寧愿提高員工的能力，給他們學習和進步的機會。他相信每個人都有可能做出偉大的事情，只需要給他們機會。

在談到堅持不懈的精神時，黃仁勛鼓勵不要放棄，因為偉大的成就可能就在眼前。他分享了自己的經驗，描述了如何在一夜之間實現了重大突破。對于工作與生活的平衡，黃仁勛認為他做得很好。他每天都在工作，即使在休息時間也在思考工作。他強調了工作的不確定性和需要解決問題的重要性，并分享了他的日常生活，包括早起習慣和對GPU的癡迷。

展望未來，尤其是人工智能的發展，黃仁勛強調了創新和創造新事物的重要性，而不僅僅是關注市場份額。他提出了"零到十億美元的市場"這一概念，即一個以前從未存在過的市場，需要通過創新和創造新事物來實現。黃仁勛認為，未來幾十年我們將要創造的大部分價值可能不受物質事物的限制。他還強調，NVIDIA的使命是增加互聯網的GDP，而不僅僅是關注已有的交易和業務。

在決策過程中，黃仁勛重視直覺和推理，而不是依賴電子表格。他認為，文字是推理的載體，可以幫助我們理解直覺以及為什么某些問題重要且難以解答。黃仁勛熱衷于解決困難問題，因為這需要大量的時間和專注力。這種挑戰性的工作可能不會立即得到他人的注意，但他仍然堅持下去。

NVIDIA最重要的創新之一是CUDA，它源自兩個想法:加速計算和統一驅動程序架構(UDA)。加速計算通過I.O.設備加速應用程序，而UDA允許程序員直接對I.O.設備進行編程。NVIDIA還嘗試讓GPU更易于高級編程語言編程，因此發明了CG，但其編程模型并不完全正確，所以他們進行了擴展，發明了CUDA。

盡管CUDA的創新一開始并未立即帶來成功，反而導致了一場災難，增加了芯片成本，卻沒有應用程序，導致無法為此收取額外費用，進而影響了毛利率。但黃仁勛仍然堅信CUDA的價值，因為他認為加速計算將能夠解決普通計算機無法解決的問題。他堅信NVIDIA的使命和機會，認為分析師們的判斷是錯誤的，他們并未真正欣賞NVIDIA所建造的東西。盡管CUDA的創新過程充滿了困難，但黃仁勛始終堅守自己所信仰的東西。

黃仁勛認為，CUDA可能是現代計算領域最重要的發明之一，它表明程序的一小部分代碼占用了99.999%的運行時間，對于許多非常重要的應用程序來說確實如此。NVIDIA的想法是利用那個內核，那個軟件的一部分，并加速它。如果不加速每個軟件，就會看到非同尋常的計算膨脹。

在直覺與固執之間，黃仁勛認為每個人都需要找到平衡點，而這條界線往往模糊不清。他強調需要對直覺進行檢查，推理策略時所依據的首要原則，這些原則很容易記住，而且并不是一個很長的清單。需要不斷地進行直覺檢查，從第一原則出發，而不是固執地堅持自己的想法。同時，他也提醒要保持聰明和警覺，因為新的公司和機會正在不斷涌現。

黃仁勛分享了NVIDIA如何找到將CUDA貨幣化的方法，即使是小規模的貨幣化。他們尋找并發現了與CT重建、地震處理和分子動力學相關的應用程序，雖然這些嘗試并未完全成功，但足以支撐他們并贏得時間，讓他們實現目標。

談到人工智能的未來，黃仁勛預測未來五年全球GPU的總計算能力將大幅增長。他強調了通用計算的局限性，認為未來的數據中心和計算機將成為加速服務器。他還提出了一個新概念——Token，這是一種代表智能的浮點數，可以被轉化為各種形式，如英語、法語、蛋白質、化學物質、圖形、圖像、視頻等。黃仁勛預測，未來將大量生產Token，這將催生新的產品和服務，提升各行各業的生產力。

此外，黃仁勛對Meta發布的開源模型Llama 3表示贊賞，認為ChatGPT和Llama系列模型分別實現了計算和生成式AI的民主化。他還討論了AGI(人工智能)的定義和預測其出現的時間，認為如果按照當前的基準列表定義，AGI可能在未來五年內實現。最后，黃仁勛強調了AI在企業中的重要性，認為沒有積極采用AI的公司可能會被使用AI的公司淘汰，并分享了NVIDIA如何利用AI改進芯片設計和軟件編寫的例子。

對于NVIDIA作為一家大型AI公司的未來，黃仁勛認為，盡管擁有一個超級模型可以幫助推理一般事物，但對于擁有特定領域專業知識的公司來說，他們需要訓練自己的模型，因為專有語言的微小差異可能會產生重大影響。

最后，黃仁勛談到了NVIDIA的市值和員工數量，以及他對工藝重要性的看法。他認為，盡管可以通過卓越運營做出好東西，但只有通過精心呵護和關愛才能做出非凡的東西。這一點與Stripe創始人帕特里克的觀點不謀而合，他強調工藝和美感的重要性，盡管這并不直接滿足客戶的具體需求。

以下是訪談全文的天空之城書面整理版：

Patrick：

各位下午好。今天下午的主題演講或爐邊談話，我將介紹一位眾所周知的人物。然而，你可能不知道的一個有趣的事實是，他已經擔任NVIDIA首席執行官31年，這使他成為科技行業任職時間最長的首席執行官，這是合乎邏輯的。

因此，我和John只做了14年，即使我們的時間翻倍，我們也無法趕上他。我們將在臺上討論Jensen Huang曾經在肯塔基州的奧奈達浸信會學院就讀的事情，這個問題我們肯定會提到。

在1993年創立NVIDIA之前，他在俄勒岡州立大學、Denny's、LSI Logic和AMD工作過，AMD現在由他的表妹經營，我們肯定會提到這個問題。2011年Stripe推出時，NVIDIA的市值為80億美元，而現在，NVIDIA的市值已經是當時的200多倍，所以從那以后他一直很忙。

歡迎Jensen Huang（黃仁勛）上臺。

黃仁勛：大家好。

Patrick：你剛才看了主題演講。那么，告訴我們主題演講表現如何？

黃：

你完美地解釋了公司的目標、激勵你們的因素、推動你們前進的因素、讓你們如此努力工作的因素、你們服務的生態系統、你們構建的令人難以置信的平臺以及你們對世界經濟做出的驚人貢獻。有一大堆我完全不懂的技術、功能和金錢方面的東西，比如CYK之類的東西。那是什么？

Patrick：

KYC，對，這在我們的世界中是一件大事。

我所欣賞的部分是，你從一開始就意識到金融支付其實是關于代碼，而非金融。我覺得這個觀點令人難以置信。

大約18個月前，那是我們上次交談后的幾年。他對Stripe的最新情況有些好奇，我就給他做了解釋。你說，哦，所以它就像是軟件定義的網絡，但是針對的是金錢。這個觀點一直在我腦海中回蕩。

這就是我們想到軟件定義金融服務的想法的起源。因此，我希望我們不必為此支付許可費。你并沒有因為這個好主意而獲得股權。

黃：好吧，你們做得很好。我一直在思考這個問題。

Patrick：

昨天的特斯拉收益報告當然是重要的。埃隆·馬斯克宣布，我認為特斯拉今年年底將生產85,000輛H100。我只是在思考，建立一個讓CEO們相互競爭，宣布誰花更多的錢購買你的產品的企業，這是相當成功的。因此，我認為你做了一件非常了不起的事情。

但是，我想先談談你最近在斯坦福活動上發表的言論。你說，我希望你有足夠的痛苦和折磨。請詳細說明一下。

黃：

好吧，讓我們看看。這是一個誤解。有一句話說你應該根據你的激情來選擇你的職業。通常，人們把激情和幸福聯系在一起。我認為這里缺少了一些東西。沒有什么不對，但是缺少了一些東西。這樣做的原因是，如果你想做偉大的事情，我知道這對你創建Stripe來說是正確的。

順便說一句，他是世界上最優秀的首席執行官之一，盡管他很年輕。你們知道我見過很多首席執行官。我聽說過很多公司。而這確實是世界上最有遠見的公司之一。所以無論如何，我只想說。這就是我來這里的原因。我只是喜歡……

Patrick：不允許再贊美了。這讓我們非常不舒服。

黃：我知道。我能看到他。他開始出汗了。

所以問題是，當你想要創造一些偉大的東西時，這并不容易。當你做一些不容易做的事情時，你并不總是喜歡它。我并不是每天都喜歡我的工作。我不認為每天都能給我帶來快樂，快樂也不一定就是好日子的定義。我并不是每天都開心。每年我都不滿意公司的工作。但我每一秒都喜歡公司。所以我認為人們誤解了最好的工作是能一直給你帶來快樂的工作。我不認為那是對的。你必須受苦。你必須全力以赴，你必須付出努力。你必須去做那些艱難的事情，并且努力去完成它，這樣你才能真正欣賞你所做的一切。沒有任何偉大的事情是容易實現的。因此，根據這個定義，我會說，我希望你能夠變得偉大，用我的話來說，我希望你能夠經歷困苦。

Patrick：那么，你的成長經歷是否教會了你這個觀念，還是這只是你的天性使然？

黃：

我從未想過我必須為此付出代價。我即將告訴你一些我從未告訴過任何人的事情，甚至我的家人也沒有告訴過。我是一個移民。1973年我來到這里時，我只有9歲。我的哥哥快11歲了。這是一個陌生的國家，這絕對不是一件容易的事情。我們的父母非常非常好，但我們并不富裕。因此，他們努力工作，他們至今仍在努力工作。因此，他們通過努力工作傳授了我們很多人生經驗。

現在，我做過各種各樣的工作，我們在學校里也有很多家務活。是在肯塔基州的奧奈達浸信會學院嗎？我不認為它和麻省理工學院一樣，雖然是同一個詞，但是它們是不同類型的學院。但我的學院要求你去上學，那是一所宿舍學院，所以有很多家務活。

我是學校里最小的孩子，所以其他孩子都得干苦力活，他們得在煙草農場干活。而我干的是輕松的工作，我當時九歲。所以他們走后，我就得打掃所有的浴室。我從未覺得自己的工作很輕松，因為他們留下的是你無法忽視的東西。但那是我的工作，那是我的工作，所以我很愉快地完成了它。然后我做了很多其他工作，Denny's就是其中之一。我從洗碗工做起，成為餐館服務生，然后成為服務員。我喜歡他們每一個人，我喜歡他們每一個人。

不知何故，我總是發現，我想說快樂，但那并不完全正確。我所做的每一件事，我都想盡我所能做到最好。也許這從一開始就根深蒂固。但我肯定是世界上最好的浴室清潔工。

Patrick：

那么，如果我們快進一點到今天的NVIDIA，你的領導團隊有多大？你的領導團隊有多大？

黃：NVIDIA的領導團隊有60多人。

Patrick：60人。他們都向你匯報嗎？

黃：是的，他們都向我匯報。60名直接下屬。

Patrick：

60名直接下屬。這在傳統上不被認為是最佳實踐。我同意最佳實踐有點……

黃：

我確信那是最佳實踐。這不是傳統的，但我確信那是最佳實踐。到最后，我會說服你們所有人，讓60人成為你們的直接下屬。各位可以自由發表意見。首先，我要強調的是，貴公司的層級結構的確至關重要。信息的重要性無需多言。我個人認為，你對工作的貢獻不應僅僅基于你對信息的特權訪問。我并不進行一對一的談話，因為我的員工眾多。我所說的幾乎所有事情，我都會同時告訴所有人。這是因為我堅信，我所處理的任何信息都不應只有一兩個人知道。無論是公司面臨的挑戰，我試圖解決的問題，還是我們試圖進入的方向，這些都是新的嘗試。有些行得通，有些行不通。因此，所有這類信息，每個人都應該能夠聽到。

我希望每個人都在同一首歌里工作，沒有特權訪問信息，我們都能為解決問題做出貢獻。當你在一個房間里有60個人時，通常，我的員工會議每隔一周舉行一次。一切都基于問題，無論我們遇到什么問題。每個人都在同一時間處理它。每個人都聽到了問題的理由，解決方案的理由，每個人都聽到了一切。這樣就賦予了人們權力。我相信，當你讓每個人都平等地獲取信息時，它就賦予了人們權力。所以這是第一點，賦權。

第二點，如果CEO的直屬員工有60人，你在公司中移除的層級數量可能大約是七層，這取決于公司的情況。每一層都是60個，還是只有60個？比如，如果我是主管，如果我是幸運的60人之一，我是否也有60個直接下屬？答案是否定的。我也不認為這是向下擴展的。原因是，根據某些級別，你需要越來越多的監督。而在e-staff級別，如果你不幸在NVIDIA的e-staff中任職，那么你不太可能需要很多管理。

Patrick：

所以我很少發現自己必須堅持傳統觀點。但如果我是另一邊的鋼鐵俠，我會說，一對一是你提供指導的地方，你們可以一起討論目標、個人目標、職業發展，你有什么，也許你會對你看到某人系統性地做得不太好的事情提供反饋，等等。所以，所有這些事情都是在一對一的情況下按照慣例應該做的。你不做這些事情，還是你以不同的方式做？

黃：

這個問題問得真好。我就是這么做的。我在所有人面前給你反饋。

事實上，這真的是一件大事。首先，反饋就是學習。為什么你是唯一應該學習這一點的人？現在，你因為自己犯的一些錯誤或自己帶來的愚蠢行為創造了條件。我們都應該從這個機會中學習。所以你創造了條件，但我們都應該從中學習。這有意義嗎？所以對我來說，向你解釋為什么這沒有意義或者我與它有何不同，不是因為我有時間，我是不對的。對我而言，公開進行推理對每個人學習推理的方式有所幫助。然而，我在一對一交流和反饋方面遇到的問題是，你無法從大眾中獲得反饋。從錯誤中學習，別人的錯誤是最好的學習方式。那么，為什么我們要從自己的錯誤中學習呢？為什么我們要從自己的尷尬中吸取教訓呢？實際上，你必須從別人的尷尬中吸取教訓。這就是我們進行案例研究的原因，不是嗎？我們試圖從他人的災難、他人的悲劇中吸取教訓。沒有什么比這更讓我們感到滿足的了。

Patrick：

你是否成功讓NVIDIA的其他領導者采用這種做法，或者這是否很難？

黃：

我給人們機會去解讀自己，但我并不鼓勵一對一的交流。沒有什么比有人說“哦，Jensen希望我們這樣做”更糟糕的了。為什么必須對任何人說呢？每個人都應該知道。所以，或者有人說，那個e-staff這么說過。沒有什么比這更讓我抓狂的了。

Patrick：

你曾經告訴我，你真的不喜歡解雇人，而且很少這么做。你能詳細說明一下嗎？

黃：

好吧，我寧愿提高你，也不愿放棄你。當你解雇某人時，你其實是在說，很多人會說，這不是你的錯。或者我做了錯誤的選擇。工作機會很少。看，我以前是清潔浴室的，現在是一家公司的首席執行官。我認為你可以學會。我非常肯定你可以學會這一點。我相信生活中有很多東西你可以學會，你只需要有機會去學習。

我有幸看到很多聰明人做很多事情。我周圍有60個人。他們一直在做聰明的事情。他們可能沒有意識到這一點，但我不斷地向他們每個人學習。所以我不喜歡因為我認為他們可以進步而放棄別人。所以這有點諷刺，但人們知道我寧愿折磨他們，讓他們變得偉大。那是我希望發現的短語。是的，我記得你提到過。是的，所以我寧愿折磨你，讓你變得偉大，因為我相信你。

我認為真正相信自己球隊的教練會用盡全力讓他們取得偉大成就。而且很多時候，他們離偉大就這么近了。不要放棄。他們離偉大就這么近了。偉大，突然有一天就來了，我得到了它。你知道我在說什么嗎？那種感覺，你昨天沒有得到它，突然有一天，我明白了，我得到了它。你能想象你在得到它之前的那一刻放棄了嗎？所以我不希望你放棄。所以讓我們繼續折磨你吧。

Patrick：

你的工作與生活平衡得怎么樣？

黃：

這取決于你問誰。我認為我的工作與生活平衡非常好。真的很棒。我盡我所能工作。我有種感覺，他在對我進行評價

Patrick：

這些都是我們對話中的亮點，我認為應該讓更多的人聽到。

黃：

從我醒來的那一刻到我上床睡覺的那一刻，我都在工作。我每周工作七天。當我不在工作時，我會思考工作。當我在工作時，我就在工作。因此，我看電影，但我記不住，因為我在想工作。我的工作并不是一成不變的，它并沒有固定的模式，因為總有問題需要你去解決。你在思考公司可以成為什么，我們是否可以做得更好，或者有時只是試圖解決一個問題。但有時你會想象未來，如果我們這樣做，那樣做，而且它有效，你在幻想，你在做夢，這真是太不可思議了。

Patrick：

為了具體化這一點，我們將討論人工智能，我聽說這現在是一件大事，而且，確實，它是一件大事。但為了具體化這一點，比如詹森的一天是什么樣的？

黃：

我以前五點起床。現在我六點起床，因為我的狗。之所以是六點，是因為我們不知怎么就決定六點是它們起床的時間，但我不知道具體時間是什么時候。我不介意叫醒任何人，但當我叫醒小狗時，我會感到內疚。這實際上給我帶來了負擔，所以我不想動。它們可能會感受到房子里的任何振動，從而被吵醒。所以我們就呆在床上，我只是在床上看書，直到六點鐘，時間到了。當然。我對 GPU 很著迷。

然后我想，一整天都是小組會議，因為不能是一對一的會議。是的，我在上班前完成工作，然后當我上班時……

Patrick：通常一天要開多少次會議？

黃：

幾乎一整天，所以我選擇對我來說真正重要的會議。我盡量不定期開會，不定期召開運營會議，因為公司里有很多很棒的人，他們會定期召開運營會議。所以我們應該是替補，首席執行官是替補。我們應該致力于別人無法或無人能及的事情。因此，你會跳入停滯不前或偏離軌道的項目或新想法。只要我們能推動事情發展。沒有報告，沒有報告會議。我討厭報告會議。他們不想向我匯報。只有問題會議。因此，問題會議、創意會議、頭腦風暴會議、創造會議或任何其他會議，這些都是我要參加的會議。所以我通常會打電話給他們。我非常努力不讓 Outlook 管理我的生活。因此，我們有目的地決定我們想要做什么，我們想要做什么。因此，我曾嘗試過過一種有目的的生活，并相應地管理我的時間。

Patrick：

你曾經提到過一個詞語，"零億美元的市場"，這是你最喜歡的市場。你是什么意思？

黃：

如果你退一步來看，我們的目的，幾乎所有的目的都應該是去做一些以前從未做過的事情，一些非常難做的事情。如果你做到了，就可以做出真正的貢獻。我知道你的公司就是這樣做的。我也試著這樣做。

如果是這樣的話，以前沒有做過，做起來非常困難，很可能，而且以前從未做過，這個市場的規模可能為0億美元，因為它以前從未做過。我寧愿做市場制造者、市場創造者，而不是市場接受者。創造以前從未存在過的新事物，而不是考慮份額。我不喜歡考慮份額。我不喜歡份額的概念。

原因是，如果你從大局來看，Stripe是憑空而來的。你憑空創造了一些東西。這并不是說還有其他東西。所以我認為我們能夠想出一個零億美元的方案。而零億美元的市場是讓公司思考如何創造新事物的好方法。

Patrick：

所以我們的使命是增加互聯網的GDP。互聯網的GDP，通常是一個最受關注的條款。但我認為最重要的部分是動詞“增長”。因為，正如你所說，我們不應該考慮哪些是已經發生的交易，哪些是已經存在的業務。我們應該考慮哪些是不存在的交易，哪些是不存在的業務。

世界GDP約為100萬億美元，但不一定非要達到100萬億美元。可能是200萬億美元或1,000萬億美元。

黃：

完全正確。完全正確。未來幾十年我們將要創造的大部分價值可能不受物質事物的限制。所以這是一個相當不平凡的時期。

Patrick：

因此，對于零億美元市場的概念，如果我再次回到NVIDIA，我會帶著某個項目的提案來找你，也許涉及數十億美元的資本支出，或者，這是一個多年的追求，但目前沒有客戶，也沒有我可以證明的需求，而你們只是憑直覺說，是的，今天沒有人這樣做，我們認為他們可以，我們認為他們應該，因此我們會追求它。非常接近，是的。有點像那樣。

黃：

這是一種直覺，因為你的直覺會說出一些作為起始論點的東西。但然后你必須對其進行推理。對我來說，它的推理比電子表格重要得多。我討厭電子表格，因為你可以讓電子表格做任何你想做的事情。你可以用電子表格制作任何你想要的圖表。你只需要輸入一些數字。因此，我不喜歡電子表格。因此，我對文字有著深厚的喜愛。文字，就是推理的載體。請告訴我，你是如何進行推理的？我們的直覺又是什么？為什么我們會認為這些問題重要？又為何我們會覺得這些問題難以解答？

我喜歡面對困難，因為解決困難問題往往需要花費大量的時間。如果一個問題需要很長時間才能解決，那么那些不夠投入的人可能就不會去嘗試。如果一個問題真的很難解決，那么解決它就需要花費大量的時間。只有那些堅韌、專注、投入的人才會去追求解決它。如果解決一個問題需要很長時間，你可能會在這個過程中掙扎幾年，但可能沒有人會注意到，你知道嗎？所以，我可能會在這個過程中掙扎幾年，每個人都會說，好吧，誰看到了？

Patrick：那么，CUDA是從哪里來的呢？

黃：

好的，CUDA最初源自兩個想法。一個是我們創造、開創了這個叫做加速計算的想法。加速計算就像一個I.O.設備，即位于PCI Express上的設備，如果有人從事計算機行業，那么他們就會知道，I.O.設備允許應用程序與該I.O進行交互，以某種方式加速應用程序的各個部分。

UDA是1993年的一項發明，它是一項真正意義深遠的發明，它允許軟件程序員直接對I.O進行編程。設備，直接向I.O編寫應用程序。設備，因為I.O.設備是虛擬化的，而且它在架構上兼容多代產品，無論如何，我們發明了這種稱為加速計算的想法，無論出于什么原因，我們都將其稱為統一驅動程序架構。

幾年后，我們認為我們可以讓我們的GPU更易于高級編程語言編程，我們發明了這種稱為CG的想法，C代表圖形。這帶來了一些非常令人興奮的機會，我們認為，你知道嗎，這會奏效，但CG的編程模型并不完全正確，所以我們進行了擴展，發明了CUDA，即計算。所以無論如何，坦率地說，這是一個可怕的故事。無論如何，我們發明了這個稱為加速計算的想法，我們開創了這種方法。

Patrick：我想真正的問題是，它是不是一夜之間轟動一時？

黃：不，它一夜之間變成了一場令人難以置信的災難。事情是這樣的。

Patrick:這是你追求的0億美元市場之一？這是一場災難？

黃：

是的。因為我們追求的是0億美元，但追求這個0億美元市場的成本太高了，它實際上壓垮了我們正在享受的10億美元市場。原因是CUDA給我們的芯片增加了大量成本，但沒有應用程序。沒有應用程序，產品就無法得到客戶的重視，也無法為此收取額外費用。如果客戶不愿意為此付費，而你的成本卻在上升，那么你的毛利率將會受到壓力。

我們的市值已經降至很低的水平，我估計我們的市值已經跌至約10億美元。我本希望能購買它，但無論如何，這已經成為事實。

Patrick：你是否立即取消了CUDA，回歸了原來的策略？

黃：

不，我堅信CUDA的價值，因為我對此進行了深入的推理。我認為加速計算將能夠解決普通計算機無法解決的問題。如果我們想將架構擴展為更通用的用途，我們就必須做出犧牲。

我深信我們公司的使命和它的機會。我堅信分析師們的判斷是錯誤的，他們并未真正欣賞我們所建造的東西。

Patrick：

盡管分析師、董事會和員工并未對此進行推廣，甚至破壞了現有的收入來源，但你仍然堅信這一點。你在兜售一個似乎沒人真正想要的崇高夢想，跟我們講講你的信仰。

黃：

你可能會認為我在否認現實，但我只是在開玩笑。我始終堅守我所信仰的東西。

Patrick：即使董事會對你施加壓力...

黃：

我每次與他們的談話都會以我深信不疑的事物作為開端。他們之所以相信它，是因為他們看到我對此的堅信。我對此進行了深入的推理，這并不像電子表格那樣簡單。你必須相信電子表格，他們必須留下推理，留下文字。這個過程大約花了10年的時間，這個時間段來了又去，占據了我任期的三分之一。我幾乎已經忘記了那種痛苦。

Patrick：

如果沒有CUDA，NVIDIA能在AI領域取得同樣的成功嗎？

黃：

不，這是不可能的。CUDA可能是現代計算領域最重要的發明之一。我們發明了這種稱為加速計算的想法，這個想法非常簡單，但意義深遠。它表明，程序的一小部分代碼占用了99.999%的運行時間，這對于許多非常重要的應用程序來說，情況確實如此。那個小內核，或者說，幾個內核，我都可以加速。而且它們往往不僅僅是并行處理，它沒有那么簡單。但我們的想法是，我們可以利用那個內核、那個軟件的一部分，并加速它。今天，摩爾定律正在發揮作用，CPU的擴展基本停止了，如果我們不加速每個軟件，你就會看到非同尋常的計算膨脹。世界每年的計算量仍在以指數級別增長。然而，如果因為某種原因，CPU和通用計算機無法提高性能，那么我們應該尋找什么樣的替代方案？這是我們現在需要考慮的問題。每個人都在經營自己的企業，都在尋求加速發展。

Patrick：

可能每個人都有自己的 CUDA 版本，他們認為這個版本對他們的行業或技術有實質性的意義，但市場尚未看到它。你是否認為有可能提取出一些可推廣的原則，來指導我們何時應該堅定地信任這個愿景，何時應該重新考慮？我們是否可以從 CUDA 和 NVIDIA 的歷史中，以及其他 CUDA 的存在情況中，推斷出這些原則？

黃：

問題在于，我們需要在決心和承諾與固執之間找到平衡，而這條界線往往模糊不清。

我每天都在審視自己內心的核心信念，我會繼續這樣做。你需要對你的直覺進行檢查，你推理策略時所依據的首要原則，這些原則很容易記住，而且并不是一個很長的清單。現在的問題是，這些原則是否發生了根本性的變化？外部條件是否使它們不再像以前那么重要？是否有其他人解決了這個問題，使得這個問題現在已經消失？或者，這個問題是否永遠都不需要解決？你需要不斷地進行直覺檢查。

在某種程度上，這是第一點，直覺檢查。首先，你必須非常小心地提煉出第一原則，而不是固執地堅持自己想要什么。你無法推理出“我就是想要”，我們不是五歲的孩子，所以你必須推理出這是第一原則。第二點，你必須聰明。事實上，這里有很多新公司正在創建，令人驚訝的是，觀眾中有這么多偉大的公司，還有年輕的公司。你必須聰明。

我們找到了將 CUDA 貨幣化的方法，即使是小規模的貨幣化。我們到處尋找應用程序，我們發現了一個與 CT 重建相關的應用程序，我們發現了一個與地震處理相關的應用程序，我們發現了另一個與分子動力學相關的應用程序，所以我們一直在尋找應用程序。他們沒有成功，但這足以支撐我們，并為我們爭取到了時間，讓我們真正實現這一目標。

Patrick：

現在，讓我們來談談人工智能。我認為，為了在這里做一些數學計算，我們假設當今世界上所有 GPU 的總計算能力是 X。你認為，五年后我們的計算能力將達到 X 的多少倍？

黃：

首先，你知道我會后悔這么說。我是一家上市公司，這個瘋子。看，私有化有多好？（笑）可以我繼續詳細闡述嗎？

讓我們來進行一些推理。首先，全球已經安裝了價值約一萬億美元的數據中心，這些價值數萬億美元的數據中心被用于通用計算。然而，通用計算已經走到了盡頭，我們不能再繼續以這種方式處理。因此，世界將加速一切，無論是數據處理還是其他任何事情。當我們加速一切時，每個數據中心、每臺計算機都將成為加速服務器。

如果我們的增長速度為零，那么在未來四年內，我們將不得不更換價值約一萬億美元的計算機。這個時間可以是四年，也可以是六年，取決于你的選擇。但如果計算機行業繼續以大約20%的速度增長，我們可能不得不在未來幾年內，無論你選擇多少年，用加速計算替換價值約2萬億美元的計算機。因此，我們應該使用圖形處理器（GPU）。

這是我要闡述的第一點。第二點是，這就是為什么你們所有人，包括Stripe，都在做一件具有里程碑意義的事情。這個想法，你可能已經聽我提到過工業革命。讓我告訴你為什么。

我們正在首次生產一些以前從未生產過的東西，并且我們正在大量生產它。生產這個東西需要一種以前從未存在過的新儀器，那就是GPU。我們首次生產的東西，對于在場的數學家和所有計算機科學家來說，你們都知道我們正在生產Token。我們歷史上第一次大量生產浮點數，這些浮點數具有價值。它們之所以有價值，是因為它們代表了智能，代表了人工智能。你可以把這些浮點數重新表述成英語、法語、蛋白質、化學物質、圖形、圖像、視頻、機器人關節、方向盤關節，我們正在大規模生產Token。

現在，我們已經發現了一種方法，可以通過我們在人工智能方面所做的所有工作，生產幾乎任何類型的Token。因此，世界將大量生產Token。這些Token將在新型數據中心生產，我們稱之為AI工廠。

在上一次工業革命中，水進入機器，你點燃水，把它變成蒸汽，然后它變成電子。原子進來，電子出去。在這場新的工業革命中，電子進來，浮點數出來。就像上一次工業革命一樣，沒有人理解為什么這種電力如此有價值，現在以千瓦時每美元的價格出售和營銷。所以現在我們每美元有一百萬個Token。

這種邏輯對很多人來說可能和上一次工業革命一樣難以理解，但在未來十年，它將變得完全正常。好的，這些Token將會催生新的產品和服務，提升各行各業的生產力，這是一個價值高達一千萬億美元的行業，就在我們的眼前。因此，這個行業的規模將會變得非常龐大。為了實現貨幣化和交易，你需要Stripe。（觀眾鼓掌）

我必須告訴你，Stripe是我最喜歡的公司之一。我第一次見到帕特里克時，他不得不向我解釋Stripe是什么。首先，它的業務非常復雜。我們一直在嘗試隨著時間的推移來完善對它的描述。無論如何，你都處于一個復雜的業務環境中。但盡管如此，我還是被它所啟發。你們所建立的東西令人難以置信。

我希望我的業務需要計費。

Patrick：

我們會跟進。（笑）

所以，考慮到這個Token，你不能這么說。你是一家上市公司。因此，考慮到這些token工廠，我認為現在一個大問題是模型是否飽和，就像我們之前在舞臺上演示的Sigma助手一樣，你可以編寫一些自然語言，然后我們將其轉換為SQL。從70億參數模型到700億參數模型或類似的模型可能會顯著提高用戶對人們傾向于構建的典型查詢類型的查詢準確性，但也許轉向比這大10倍的模型是不必要的。

在某個時候，你會變得足夠好，你可以可靠地將自然語言轉換為SQL。我認為對于部署LLM的用例有一個問題，飽和曲線是什么樣的，對于多少用例，需要一個萬億參數模型或十萬億參數模型，或者我們是否只是達到了某個數字（比如說，少于1000億）就足夠的程度？你對此有什么看法嗎，或者這是否是看待這個問題的合理方式？

黃：

好的，讓我們分解一下，然后推理。在公共場合，適當地。我收到的每一個問題。

Patrick：好的

黃：

讓我們分解一下，然后推理一下。讓我們從一個例子開始。2012年，AlexNet是計算機視覺、ImageNet、圖像識別，準確率為82%左右。在接下來的差不多不到十年的時間里，我想大概是七年，每一年，準確率誤差都會減少一半，每年，誤差都會減少一半，或者也稱為摩爾定律，好嗎？所以你每年都會將性能翻一番，將準確率翻一番，將可信度翻一番。在過去的七年中，這項技術已經發展到了超乎尋常的地步。無論是語音識別還是自然語言理解，都有了顯著的進步。我們總是期待并希望，而非僅僅知道，我們期待并希望預測給出的答案是準確的。因此，整個行業都在追求這種可信度或準確性，每年都在努力將其準確性提高兩倍。我相信，自然語言理解也會如此。當然，問題空間要復雜得多。但我堅信，我們將每年將其準確性提高一倍，直到它達到如此準確的程度，我們已經對許多示例進行了廣泛的測試，當你與它交互時，你會說，這真的非常好，我相信它給我提供的答案。這個條件非常重要。

第二件事是，今天的語言模型、今天的人工智能和我們展示的一切都只是一次性的。然而，我們都知道，我們考慮的很多事情都不是一次性的，你必須迭代。那么你如何想出一個計劃，如何推理一個計劃？你如何想出一個解決問題的策略？也許你需要使用工具，也許你必須查找一些專有數據，也許你必須做一些研究，也許你必須問另一個代理，也許問另一個人工智能，也許你必須像人類一樣循環，問一個人，觸發事件，給某人發送電子郵件或短信，在你進入該計劃的下一步之前得到回復。因此，大型語言模型必須迭代并制定計劃，這不是一次性的事情。一旦它想出了一個計劃，當它遍歷該圖時，就會有一大堆語言模型被實例化和啟動。所以我認為你未來的模型將會迭代，因此，它不僅僅是一個一次性的模型，而是一個規劃模型，周圍還有一大堆其他模型，這些模型都具有特定的技能。所以我認為我們還有很長的路要走。

Patrick：

上周，Meta發布了Llama 3，這是迄今為止最令人印象深刻的開源模型，引起了廣泛關注。

黃：

對于開源模型，我的觀點是，如果你問我過去幾年最重要的事件是什么，我會毫不猶豫地告訴你是ChatGPT，以及強化學習人類反饋，將其植根于人類價值觀并擁有實現這一目標所需的技術。這無疑是一項突破，使計算民主化，使每個人都有可能成為程序員。現在每個人都在用它做著了不起的事情。ChatGPT，以及OpenAI所做的工作，我為Greg、Sam和他們的團隊感到驕傲。

我想說的第二件同樣重要的事情是Llama，不是Llama 1，而是Llama 2。Llama 2激活了幾乎每個行業，使其開始研究生成式人工智能。它打開了每個行業能夠使用這項技術的閘門，無論是醫療保健、金融服務、制造業、客戶服務，還是零售業，各種各樣的行業都開始使用這項技術。我個人認為，Llama 2和Llama 3是開源的，它們不僅參與了各種研究，也參與了初創企業和行業的發展。這使得生成式人工智能變得觸手可及，我認為這是一件重大的事情。因此，我堅信ChatGPT實現了計算的民主化，而Llama則實現了生成式AI的民主化。這種觀點是否合理呢？

我認為，如果沒有這些工具，所有關于安全的研究、所有改變思維方式的嘗試，以及現在正在開發的所有推理技術和強化學習內容，都將難以啟動。更甚者，如果沒有Llama，這些事情將更加困難。

Patrick：

兩周前，Dario Amodei參加了Ezra Klein的播客，他和許多其他人一樣，特別是許多參與前沿實驗室的人，預測AGI將在相對較短的時間內出現，可能在未來幾年，2027年等年份經常被提及。對此，你有什么想法呢？

黃：

這其實取決于你如何定義AGI。首先，作為一名工程師，你應該明白，我們只有能夠衡量問題，才能最終解決問題。因此，你必須以某種可衡量的方式表達問題陳述和使命。如果你告訴我AGI是我們目前使用的基準列表，它們是數學測試、英語理解測試和推理測試，你參加了體檢和律師資格考試，并列出了你想要的所有測試。不管是什么，只要列出你的清單就行了。如果你列出了清單，我相信我們會在很短的時間內取得優異的成績。如果這就是AGI的定義，我猜，它很可能在未來五年內實現。因此，我們目前用來測量這些模型的所有測試，它們的準確性或錯誤率每六個月就會減少一半。因此，我們沒有理由不期望它很快就會成為超人。這不符合標準，只是要清楚一點。這不符合普通人認為它是AGI的標準。這有道理嗎？

街上的人，嘿，AGI，這可能不是他們所想的，也不是我所定義的。我定義它的方式只是一種工程定義方式，以便您可以回答該問題。回答該問題的第二種方式是，您何時可以以未定義的方式實現AGI？如果無法定義，那么您會知道需要多長時間？無法定義。

Patrick：

每個在座的人都在經營企業。因此，我們所有人都面臨的一個實際問題是，您如何知道自己是否正面臨您剛才描述的那種變化，如何知道，如何知道自己是否以正確的方式做出了適當、充分的反應，等等？有什么建議嗎？

黃：

如果您沒有積極主動地參與AI，那么您就做錯了。您不會因為AI而失去工作。您會因為使用AI的人而失去工作。您的公司不會因為AI而倒閉。毫無疑問，如果你的公司不盡快采用人工智能，那么它可能會因為其他公司的AI應用而被淘汰。因此，你必須盡快使用人工智能，這樣你才能去做那些你認為成本過高的事情。例如，如果智能的邊際成本幾乎為零，那么你現在可以做很多事情，而這些事情在以前可能因為成本過高而無法實現。因此，我們需要注意我們搜索的頻率，注意我們這些天提出問題的頻率。對于任何隨機問題，我都會感到困惑，但我仍然會去提問，即使我知道答案，我還是會去問，只是想看看會出現什么結果。

我們希望這種情況能夠發生，我們希望這類活動的邊際成本盡可能低，以便你大量使用它。其次，如果你可以使用人工智能來提高生產力，你應該知道高效的公司會帶來更高的收入，更高的收入會帶來更多的就業機會，更多的就業機會會帶來更多的社會發展。因此，有很多理由促使公司提高生產力。

Patrick：

AI是否改變了NVIDIA內部的工作方式，除了改變制造計劃和資本支出計劃之外？

黃：

實際上，我們是首批投資自己的AI超級計算機的科技公司之一。如果沒有AI，我們就無法設計芯片。到了晚上，我們的AI會探索廣闊的設計空間，而我們自己永遠不會這樣做，因為探索這些空間需要花費太多錢。因此，我們的芯片要好得多。有了AI，我們可以減少芯片的能耗，提高性能。如果沒有AI，我們就無法編寫軟件。我們必須探索所有優化編譯器的設計空間，因為設計空間太大了。我們使用AI來提交錯誤，因此，我們的錯誤數據庫實際上會告訴您誰的代碼出了什么問題，誰可能參與其中，并激活該人去修復它。因此，我認為我們希望公司中的每個人、每個組織都非常積極地使用AI。我想把NVIDIA變成一個巨大的人工智能，那該有多好？然后我會平衡工作和生活。

Patrick：

你聽說過哪些企業的例子，也許是在某個意想不到的行業，某個意想不到的用例，你覺得它們可以作為你所描述的某些動態的典型代表，它們真的意識到了其中的一些機會？

黃：

好吧，人工智能最大的驚喜，對很多人來說不應該是一個驚喜，那就是當我們說它是一個大型語言模型時，語言這個詞并不意味著只有人類語言。它并不意味著只有英語或法語，或者只有愛爾蘭語，或者那是完全不同的語言。但是有沒有愛爾蘭語的大型語言模型？

Patrick：

我試過了，效果很好。約翰和我大部分的教育都是在愛爾蘭接受愛爾蘭語教育的。因此，我有幸與這些模型進行了首次對話，就像與蓋爾格一樣，這讓我感到非常驚訝。這已經持續了很多年。實際上，我非常享受這個過程。你有沒有試過和Suno一起玩？Suno是一款用于創作和合成音樂的應用程序。我一直非常喜歡愛爾蘭音樂。我當然試過這款應用，它可以演奏凱爾特風格的Dubstep，這真是太棒了。

黃：

如果它能做到這一點，那么它當然可以學習生命語言。如果語言模型可以理解聲音，這是一個序列，一個時間序列，那么為什么它不能學習機器人的發音，這也是一個序列？你只需要弄清楚如何對其進行標記。因此，突然之間，我意識到，我可以學習SQL，我可以學習ABAP，我可以學習Lightning，我可以學習所有這些專有語言，我可以學習Verilog。所以，你會突然意識到，你可以在地球上的每一個工具上放置一個Copilot。

Patrick：

到目前為止，NVIDIA是一個大型人工智能公司，未來可能有100,000個模型，或者1億個模型，或者只有一個模型，這個模型可以做所有的事情。

黃：

我認為擁有一個超級模型會很棒，它可以幫助你推理一般事物。但對于我們這些擁有非常特定領域專業知識的公司來說，我們將不得不訓練自己的模型。因為我們擁有專有語言，99%和99.3%之間的差異對我們來說就是生與死的區別。這對我們來說太有價值了。對你來說，這和欺詐檢測沒什么不同，它對你來說太重要了。我要說的是，這正是我們的經驗。無論通用模型有多好，你都會想要對其進行微調，將其改進到完美，因為它對你來說太重要了。

Patrick：

我們的時間快到了，還有很多問題我還沒來得及回答。我在時間管理方面表現不佳。所以有很多問題我認為是，我被告知我一定要問你，但有幾個問題我真的很想問，而且只有我們在場。

所以，Lisa Su是你的遠房表親。

黃：她真的很棒，她很了不起。順便說一句，她是AMD的首席執行官。、

Patrick：AMD現在是你在GPU領域的競爭對手之一。

黃：不，我們是一家人。我們都在這個行業。她是這個行業的合作伙伴之一。我們從AMD那里購買產品。

Patrick：那么，為什么我們最終會有兩家可以說是最重要的GPU公司，它們由近親經營呢？發生了什么事情？

黃：你必須保守這個秘密。不，我并不清楚具體是怎么發生的。我們并非一起長大的。這個故事變得更有趣了，是的，直到她加入IBM，我們才相識。她的職業生涯令人贊嘆，她真的非常優秀。

Patrick：

我認為這個問題需要進一步研究。

所以，你從90年代初就開始在硅谷運營了。是的。那么，在那段時間里，硅谷的文化發生了怎樣的變化？

黃：

哦，這個問題我已經很久沒有思考過了。我想在很多方面，可能……這是一個例子。當我第一次創辦NVIDIA時，我只有29歲，那時我還有痤瘡。你去和招聘人員、律師事務所和風險投資公司交談，而我額頭上長了一個大痘痘。而今天我沒有痘痘，所以我可以放心地談論這個問題。但這是有可能發生的。

所以，無論如何，你會感到相當不安全，因為當時大多數CEO都穿著西裝，他們很有成就，聽起來像成年人，他們使用大詞，他們談論商業之類的事情。所以，當你年輕的時候，你會感到相當害怕。你被一群成年人包圍著。現在，如果你沒有痤瘡，我認為你不配創辦一家公司。這是一個很大的區別。

Patrick：痤瘡。這是詹森演講的要點。

黃：

這意味著，我們真的讓年輕人變得非凡。我認為年輕一代的CEO，你們在如此年輕的時候就知道的事情真的非常非凡。我花了幾十年才學會它。

Patrick：

最后一個問題。

因此，NVIDIA的市值約為2萬億美元，現在與Apple和Microsoft相差無幾，我剛剛查了一下，他們分別有220,000名和160,000名員工。NVIDIA有28,000名員工，所以，還不到這兩家公司中規模較小的那家的五分之一。然后，你剛才說，當我們在后臺聊天時，我記下了這一點，你可以通過流程實現卓越運營，但只有任職才能實現工藝。因此，NVIDIA比其他任何巨頭都小得多，你似乎認為任職真的很重要，我想工藝真的很重要。你想再說一點嗎？

黃：

我認為可以做出很多好東西，好東西是通過卓越運營做出的，但你不能僅通過卓越運營做出非凡的東西。原因在于，您工作中的許多偉大成就、您制造的產品、您創建的公司、您培育的組織都需要精心呵護。你甚至無法用語言表達。如何在電子郵件中表達關愛？

有人可能會說，他們知道如何做到這一點。然而，有些人可能認為在業務流程中無法表達關愛。

Patrick：愛和關懷是否是NVIDIA的口號？

黃：

我可以告訴你，我在工作中頻繁地使用“愛”，并大量使用“關懷”。這就是我們經常討論工藝和美的原因。

是的，你必須使用這些詞，因為在很多方面，沒有其他詞可以描述它。你不能用數字來表達，你不能把它寫在產品規格中。產品規格只能告訴你，我希望你能創造出一些非常美麗的偉大作品，并創造出偉大的工藝。但你無法指定這些東西。

Patrick：

可能有人會認為，Stripe的帕特里克總是喋喋不休地談論工藝和美，而這種...我從不喋喋不休。我只是想讓你知道這一點。我甚至不知道那聽起來像什么。你比我清醒。我只是胡言亂語。

但是，我總是在談論工藝和美感，希望事物具有這種特殊的不可言喻的特性，但它并不直接滿足某些客戶的需求等等。客戶不會來找我們說，我希望產品更漂亮。他們說，我希望它具有X或Y功能。然而，我們相信工藝和美感真的很重要。

聽起來你的意思很相似。你為什么認為這很重要？

黃：

實際上，你的客戶，即使他們沒有說出來，他們可能也不知道該怎么說，但當他們體驗到它時，他們就知道了。毫無疑問。

看，Stripe的作品有美感、優雅和簡約。你們知道，簡約并不簡單。簡約和簡單不是一回事。它有優雅，它解決了問題，但剛剛好。它給你帶來負擔，但不會太多。所以很難找到這種平衡。你無法具體說明。你只能靠自己的感覺去實現它。

當你擁有一支與你同在、能一起找到方向的團隊時，在很多方面，我們已經編纂、編碼了公司的魔力，這是無法用語言描述的。你不想失去它。你想在下次將它提升到一個新的水平。所以我不想重新開始。出于這個原因，我不喜歡和新人一起工作。因為我已經編碼、體現，我儲存了那么多的痛苦、苦難、歡樂和知識，所有這些經驗、生活經驗，你都已經編碼在了所有與你共事的人身上。你想繼續下去。你想將它提升到一個新的水平。這就是我真正深信終身任職的原因。

正因為如此，小團隊才能成就大事。NVIDIA的團隊規模很小，只有28,000名員工。因此，人們認為我們的實力超出了我們的能力范圍。你們的成就令人驚嘆，你們的規模如此之小，只有7,000人，卻支撐著價值一萬億美元的生態系統、產業和經濟。誰能預知你們將會走到何處？

因此，我為你們感到無比驕傲。

Patrick：謝謝!

黃：感謝你們。