藏在AI背后的神秘芯片！谷歌悶頭造10年，直接改寫算力格局

咱們要聊的這顆芯片，說出來你可能不信，它跟咱們平時聊的那些不一樣，既不會讓數碼圈瘋著開箱，也不會讓游戲圈急著跑分，更沒人會問它能不能玩黑神話。

要是把現在的AI世界比作武林，那誰都想手握最厲害的武器，站穩腳跟，過去幾年，GPU價格瘋漲、經常斷貨，就是因為它是所有人都搶的“屠龍寶刀”，誰手里多，誰就能在AI圈說了算。

可谷歌偏不按常理出牌，非要自己造一把“倚天劍”，這家靠廣告賺錢的軟件公司，花了十幾年時間啃芯片這塊硬骨頭，甚至官宣要放棄英偉達的GPU訂單，用TPU來支撐傳聞多年還沒落地的蘋果汽車項目，這操作確實夠驚艷。

很多人都會問，谷歌放著現成的芯片不買，非要自己砸錢搞研發，圖啥？TPU比CPU、GPU到底強在哪？咱們普通人能用得上嗎？谷歌手握這把“倚天劍”，是不是已經成了AI圈的新霸主？今天咱們就順著這顆神秘芯片，聊聊谷歌的AI布局。

哈嘍，大家好，小觀這篇評論，主要解析谷歌自研TPU芯片的崛起邏輯，對比其與英偉達GPU的優劣勢，解讀AI算力格局變化與科技巨頭的底層話語權爭奪。

谷歌悶頭造10年

懂行的都知道，一個能躺著賺錢的公司，突然去碰自己不擅長的領域，要么是這行巨賺錢，要么是被逼得沒辦法，谷歌當年搞芯片，就是后者。

時間拉回2013年，那時候大模型還沒影子，人工神經網絡剛火起來，走進了大公司的視野，谷歌內部特別興奮，他們的谷歌大腦團隊，做了個特別有名的“谷歌貓”項目，把海量高清視頻喂給神經網絡，到最后，這模型居然自己學會了識別貓。

就是這一下，很多人第一次意識到，只要數據夠多、算力夠猛，機器真能從一堆亂糟糟的像素里，琢磨出點門道來，谷歌大腦的負責人賈斯汀琢磨，能不能把這技術用到實際業務里，比如語音搜索。

他們做了個測算，要是用戶每天只用3分鐘語音搜索，谷歌當時的數據中心算力就得翻倍，為了一個不知道能不能賺錢的新功能，讓公司砸幾十上百億擴建數據中心，怎么算都不劃算，但賈斯汀看的更遠，他知道要是AI以后真成了所有產品的底層能力，現在這點成本，只是冰山一角。

要是還沿著CPU的通用計算路子走，未來的成本只會指數級暴漲，說白了谷歌就是發現，現有計算架構已經跟不上AI的腳步了。

于是他們同時干了三件事，一是花4400萬美元，力壓百度，收購了比“谷歌貓”強太多的AlexNet團隊，這可是AI教父杰弗里?辛頓的團隊，二是瘋狂給英偉達下訂單買GPU，畢竟當時GPU是跑神經網絡最順手的現成工具，三是偷偷搞起了自己的AI芯片，也就是TPU。

當時很多人都覺得，這就是個玩票項目，因為賈斯汀給芯片團隊定的目標，簡直離譜：從零開始，性能要比GPU高10倍，工期只有15個月，懂芯片研發的人都知道，這根本就是不可能完成的任務，換誰都得犯愁。

大多數公司搞AI芯片，思路都是照搬GPU，多堆核心、提升帶寬、拉高頻率，拼并行能力，但谷歌看得明白，跟著英偉達的路子走，永遠只能做個次品，生態不如人家，量產不如人家，純屬白費功夫，所以他們的思路很簡單：不做第二個GPU，要做就做不一樣的。

最后沒想到谷歌還真用一年多時間，造出了第一代TPU，而且之后十幾年一直在迭代升級，雖說造芯片又費時間又費錢又費力，但這把“倚天劍”，確實沒白造。

TPU 到底開了什么掛

打個比方，CPU就像全能特級大廚，啥菜都會做，但做起來慢，GPU就像一群普通廚師，全能不行，但讓他們切一萬個土豆，比CPU快多了，而TPU從一開始就不是為了全能，它是專門的AI芯片，也就是特定應用集成電路。

這東西聽起來玄乎，原理其實很簡單，傳統CPU算一次加法，得從內存里取一個數，算完存回去，再取下一個，就像廚師切一道菜，就得跑回冰箱拿一次食材，而TPU的脈動陣列，就像一條生產線，數據像波浪一樣在計算單元里流轉，上一層算完直接傳給下一層，不用停頓，也不用頻繁去內存里取數據。

這種設計不用單個計算單元多強，只要所有單元節奏同步，不浪費一點算力，這就是TPU能效比超高的關鍵，第一代TPU在谷歌內部部署后，立馬扛起了RankBrain等業務的推理任務。

根據谷歌官方數據，第一代TPU在推理任務上，比當時的GPU快15至30倍，能效比高30至80倍。它也證明了一點，在通用計算之外，專用架構又重新站了起來。

熟悉半導體歷史的人都知道，行業里有個“日本周期”，也叫“鐘擺效應”，這個行業從來不是一味追求“越通用越好”，而是在通用和專用之間來回搖擺，通用架構夠強、夠便宜、生態夠成熟，大家就用通用方案，省事又安全。

可一旦某個新應用需求爆發，通用架構扛不住了，專用架構就會冒出來，性能能提升幾十上百倍，等這個專用場景成熟了，需要兼容更多功能，通用方案又會卷土重來。

CPU、GPU、ASIC這些，看似不同的門派，其實都在被這個“鐘擺”推著走。而TPU，就是AI時代，這個“鐘擺”偏向專用計算的代表性產物。

第一代TPU成功后，谷歌就開啟了迭代之路，早在2014年，第一代TPU還在流片的時候，谷歌就意識到，推理問題解決了，訓練很快會成為新的瓶頸，TPU的技術負責人當時就說，問題已經不是單顆芯片能不能加速，而是得重新設計一整套訓練機器。

這說明谷歌的思路已經變了，不再把TPU當成服務器里的一張加速卡，這也是微軟當時的思路，而是把它當成構建AI超級計算機的基本單元，2017年，第二代TPU問世，最大的變化就是加入了訓練能力，正式進軍AI訓練領域。

為了支撐訓練，谷歌做了三件影響深遠的事，換成高帶寬存儲（HBM）。

訓練對數據吞吐的要求，比推理高太多，既要讀參數、讀激活值，還要處理梯度和中間狀態，沒有足夠的內存帶寬，計算單元就會“餓肚子”，就像廚師炒飯的速度，趕不上人吃的速度。

引入BF16格式。

這東西特別關鍵，谷歌發現，訓練任務不一定需要FP32那么高的精度，但要是像傳統FP16那樣砍掉指數位，又容易出現數值不穩定的問題，于是他們搞了個折中方案，保留和FP32差不多的動態范圍，犧牲一點尾數精度。

這個設計后來影響極大，現在BF16已經成了AI訓練的行業標準，大幅降低了大模型的訓練成本。

搞大規?；ヂ?，把很多TPU芯片連在一起，這就是后來很有名的Pod概念。

單顆TPU在超大規模模型訓練中不夠看，所以得把幾百顆、上千顆TPU，用低延遲、高帶寬的方式連起來，讓它們協同工作，這和后來英偉達、華為搞的超節點思路，不謀而合，當年的第二代TPU機群，能實現256顆芯片協同，總算力達到十幾個PetaFLOPS級別。

到這一步，谷歌已經不只是在做AI芯片，而是在搞AI超算了，第三代TPU繼續提升HBM容量、擴大規模，Pod能容納1024顆芯片，總算力突破100個PetaFLOPS。因為功耗太高，谷歌還專門給它裝了水冷系統。

第四代TPU引入了光路交換，通過芯片上成千上萬個微小鏡子組成的陣列，動態改變連接拓撲，就像把固定的高速公路網，改成了能根據車流量實時調整的智能路網，靈活性拉滿，擴大規模時幾乎沒有性能損耗。

2023年，谷歌把第五代TPU分成了兩個方向：V5E和V5P，V5E主打效率和性價比，每美元性能提升兩倍多，適合高性價比推理和中等規模訓練，面向云上客戶和成本敏感型工作，V5P主打性能，HBM容量拉滿到95GB，支持8960顆芯片聯合作戰，專門用來訓練Gemini這樣的超大規模模型。

說到這肯定有人會問，TPU這么猛，為什么最火的還是英偉達的GPU？普通人一提AI芯片，想到的都是H100、B200、CUDA、NVLink，沒人提TPU？

咱們算筆賬就知道，十年前投10萬美元到谷歌，現在能拿到70萬美元，已經很可觀了，但要是投給英偉達，現在能拿到2000萬美元，直接實現財富自由，TPU這么強，為什么沒讓谷歌成為AI霸主？核心原因有兩個。

第一個原因很直接，TPU一開始就不是用來賣的，就像谷歌自家藏經閣里的秘籍，別人知道它厲害，但根本摸不到。

雖說現在谷歌也把TPU放到云上賣，但開放的節奏、程度，還有獲取難度，和英偉達完全沒法比，英偉達從根上就是“賣鏟子”的，核心就是給市場提供芯片和服務。

第二個原因更關鍵就是軟件生態，英偉達能成功，不只是因為GPU性能強，更因為全球的工程師，都愿意圍著它寫代碼，黃仁勛當年不惜降低利潤，甚至虧本，也要把每一顆英偉達GPU和CUDA綁定。

CUDA搞了幾十年，已經成了AI開發者的“普通話”，想在GPU上寫個新算子，有大把的庫可以用，上手特別容易，而TPU的開發環境，就像個黑盒子，它的編譯器XLA雖然能自動優化算子、自動分片，但操作太復雜。

更有意思的是英偉達已經開始抄TPU的后路了，去年，英偉達完成了歷史上最大規模的收購，把一家叫Brooklyn的芯片初創公司買了下來，而這家公司的創始人約翰遜?羅斯，正是TPU的創始靈魂人物。

Brooklyn的芯片架構，說白了就是TPU脈動陣列的加強版，TPU的架構優勢，正在被英偉達慢慢瓦解。

不過故事并沒有朝著“黃仁勛一統江湖”的方向發展，從去年開始，越來越多的公司開始轉向TPU。

估值超過8000億美元的AI巨頭Anthropic宣布，2027年要投入上百億美元，采購100萬塊TPU，Meta官宣，要投10億美元買TPU，蘋果的AppleIntelligence模型，據傳也完全靠TPU訓練和部署。

這說明TPU已經從當年的試水備胎，成長為百億美元量級業務的核心，這些公司選TPU，不是因為信仰谷歌，而是在AI浪潮里，必須有英偉達之外的備選方案，才能活下去。

現在聊AI，看到的都是ChatGPT、Gemini、豆包這些越來越智能的應用，但真正決定這些應用能不能大規模落地、能不能降價、能不能穩定運行、能不能持續升級的，從來不是屏幕上的界面，而是背后的芯片、編譯器、互聯技術、機房，還有把這些東西整合起來的系統能力。

誰的系統更強，誰就能在AI圈占據更多優勢，這也是為什么現在的頂級科技公司，越來越像現代重工業企業，不管是英偉達的AI工廠、華為的昇騰，還是谷歌的TPU，都是復雜的系統工程。

這些系統的核心，就是頂級科技公司對AI底層話語權的爭奪，而TPU就是谷歌在這場爭奪里的核心籌碼，不管最后誰能贏，甚至有沒有絕對的贏家，最終受益的都是咱們普通人，AI應用會越來越便宜，越來越懂我們的需求，這就足夠了。