OpenAI發(fā)布ChatGPT世代首個開源模型gpt-oss，4060Ti都能跑得動。

8月6號，真的今夕是何年了。

一晚上，三個我覺得都蠻大的貨。

先是晚上10點，Google發(fā)了一個世界模型（但期貨），Genie 3。

這個非常的強，我看的熱血沸騰，我這兩天也會單獨寫一篇文章，來聊聊這個玩意，真的，作為一個這么多年的游戲和VR玩家，看到Genie 3非常的激動。

然后就是12點半，Anthropic突然就發(fā)布了Claude Opus 4.1，在編程能力上繼續(xù)進化。

這節(jié)奏，感覺就是來狙擊OpenAI的。

然后，重頭戲來了。

凌晨1點，OpenAI在GPT-2后，在整個ChatGPT世代，官宣發(fā)布了他們的第一個開源模型，GPT-oss。

真的，不眠之夜。

直接來聊聊GPT-oss。

很強，非常強，OpenAI終于干了點人事。

GPT-oss一共開源了兩款模型，120B和20B，都是MoE，純文本、非多模態(tài)的推理模型， Apache 2.0 許可，也就是最寬松的那種，你隨便用 。

120B參數(shù)117B，激活參數(shù)5.1B。

20B的則209億參數(shù)，激活參數(shù)3.6B。

上下文都是128K。

最爽的東西來了，這兩模型，是原生支持4-bit量化的。。。

也就是說，20B模型的大小就12.8GB ，最低只要16GB內(nèi)存就能跑，我這個破壁5080的16G卡，也能本地跑的動了20B的gpt-oss了。

而且，這不只是簡單的那種事后壓縮，就是社區(qū)常做的一些量化，那種方式性能會掉一大截。

比如DeepSeek-R1滿血版是671B，8-bit精度，少數(shù)dense層依舊16 bit，最后的模型大小是720GB。

你想完整的部署它，8張96G的H100才行，如果你想省算力，那就你自己事后搞一層量化，量化到4-bit，這時候，模型體積就會小很多。

但是對等的，性能也會差一些。

而OpenAI是在后期訓(xùn)練的時候，就直接用了一種叫MXFP4的格式來做量化 。也就是說，模型在出廠前就已經(jīng)學(xué)會了如何在低精度的環(huán)境下工作，所以這種方式，不僅能大幅的縮小模型權(quán)重體積，性能損失極小。

比如gpt-oss-20b，總參20.9B，9成以上是MoE專家，被壓成MXFP4，4.25 bit/權(quán)重，剩下不足一成的主干還是 FP16。

所以20.9B×4.25 bit≈11.1GB，再把那10%左右的FP16算進去，加點 header，模型最終大小就差不多落在了12.8GB，直接一張16G的顯卡就能推的動，非常的爽。

120B的模型，也能跑在80G的單卡的，真的牛逼。

這塊量化還是挺有意思的，今年6月的時候英偉達也搞了個NVFP4，跟OpenAI這個MXFP4稍微有點類似。

定位都差不多，4 bit速度，接近FP8的精度，還挺好玩的。

這波OpenAI上大分，讓我這種本地玩家，也能跑一跑滿血版的20B gpt-oss了。

再看看跑分。

在 Codeforces（帶工具）這個競技編程測試中，gpt-oss-120b 和 gpt-oss-20b 分別獲得 2622 分和 2516 分，表現(xiàn)我記得是優(yōu)于DeepSeek R1的，但遜于o3和o4-mini。

在人類的終極考試中，gpt-oss-120b和gpt-oss-20b 的得分分別為19%和17.3%，低于o3。

不過OpenAI這個跑分其實非常的不直觀，因為只跟自己對比，挺狗的，正好前端時間差不多同尺寸的Qwen3和GLM-4.5也都發(fā)了，群友@洛小山 就把大家同尺寸模型的跑分都整合了一下。

結(jié)果不看不知道，一看嚇一跳。

在同尺寸下，幾乎是傲視群雄，沒有敵手。

說說在哪用。

OpenAI自己做了一個在線的網(wǎng)站，供大家試用：

https://gpt-oss.com/

但是卡的一筆，經(jīng)常動不了。

所以，你也可以在O penRouter上用，他們已經(jīng)第一時間支持了gpt-oss。

https://openrouter.ai/

比較可惜的是，截止到凌晨4點，我最常用的模型平臺硅基流動還沒支持gpt-oss，估計睡了。。。

此處對硅基流動工作人員喊話：快上模型。。。

而如果你想本地用的話，也可以直接下載一個Ollama。

https://ollama.com/

Ollama現(xiàn)在支持UI界面了，好用很多。

下載安裝完Ollama之后，你就可以在這個地方選擇模型。

選完了以后，隨手發(fā)個1或者你好之類的。

模型就會自動開始下載了。

但是這個地方稍微注意一下，不要自不量力= =

20B的模型至少需要16G的顯卡才能跑。

120B的模型至少需要80G。

沒到的就別下模型了，老老實實去硅基流動或者OpenRouter接個API用就行。

我自己部署了一下20B，用了下，速度確實是快，而且快的離譜。

還是群友@洛小山 做了個對比。

在別的還在慢悠悠的跑的時候，gpt-oss-20B只花3秒就解決了戰(zhàn)斗。

你用的時候就感覺，飛一樣的感覺。

我自己也測了下代碼審美，老樣子，跑跑固定case像素彈球大師。

結(jié)果120B的給我看不會了，雖然能玩，但是真的丑。

emmmmmm。

至于20B的，就玩不了。。。

然后又在群里，看到了一張梗圖。

一下子笑不活了。

而在推理和知識層面，確實還不錯。

20B的模型，做這些燒腦的推理題，真的綽綽有余了。

寫作文筆這塊，我有一個常用的提示詞：

"你是一位久負盛名的小說家，文字極富感染力，風(fēng)格細膩，善于挖掘和表達復(fù)雜的情緒與心理?，F(xiàn)在，給你一個場景：

夜晚十一點半，你獨自坐在一列開往遠方的小城的綠皮火車上，車廂內(nèi)昏暗的燈光時明時滅，窗外掠過荒涼的村莊、星星點點的燈火、偶爾傳來的犬吠，車廂內(nèi)空氣沉悶、混雜著煙草與泡面的味道。你對目的地懷著某種難言的情緒，夾雜著期待、猶豫、忐忑甚至是恐懼。

請你使用第一人稱，以細膩且富有感染力的文字，深入描寫你此刻的內(nèi)心活動和車廂內(nèi)外的細節(jié)，尤其要注重細節(jié)密度、情緒層次和氛圍營造，不少于500字。"

能比較清楚的對比看出來模型的寫作功底。

比如這個就是GPT4.5的。

這個是Gemini 2.5 Pro的，都還不錯。

而gpt-oss 20B的文筆，是這樣的。

不跟GPT4.5和Gemini 2.5 Pro比，在同尺寸模型中，還是不錯的，微調(diào)一下，應(yīng)該能很棒的處理很多垂直任務(wù)。

就是我自己實測中發(fā)現(xiàn)，幻覺還是有一點不低的。

比如我問它，三體里云天明的三個小說是什么。

直接給我來了個，打底三部曲？？？

還有NASA第四個登月的明明是Alan Bean，這個愛德華安德森是個什么鬼。

不過這畢竟是個20B的模型，雖然代碼拉，幻覺有點高，但是在推理能力和數(shù)學(xué)能力上都很強了。

整體來看，確實在本地的消費級模型上，是很好也是很實用的。

后面微調(diào)一下，應(yīng)該能干不少事，又燃起了我的斗志。。。

到時候后續(xù)也可以分享一下gpt-oss的微調(diào)教程和應(yīng)用場景。

講道理，OpenAI能把這事干出來，還是之前被DeepSeek給逼急了。

雖然每次看到OpenAI磨磨唧唧藏著掖著，我都會罵它一頓，但這次，確實真的可以給它鼓個掌了。

gpt-oss確實夠誠意滿滿，夠硬氣，也足夠改變未來開源社區(qū)的格局了。

這次OpenAI開了一個很好的頭，拉低了門檻，提高了上限，讓AI圈子的玩法更豐富了。

咱就是說，要不然，就Open到底。

周四不是發(fā)GPT-5嗎？

索性，把GPT-5也開源了。

可好？

以上，既然看到這里了，如果覺得不錯，隨手點個贊、在看、轉(zhuǎn)發(fā)三連吧，如果想第一時間收到推送，也可以給我個星標?～謝謝你看我的文章，我們，下次再見。

>/ 作者：卡茲克

>/ 投稿或爆料，請聯(lián)系郵箱：wzglyay@virxact.com