跟大家分享一下老馮新整的好東西,一臺 AI 迷你 PC,一萬塊錢在本地跑 120B / 235B 大模型。 在《》中,我相中了 AMD AI MAX 395 這顆 CPU,入手了 ROG 幻 X 平板筆記本,卻發現問題多多,遺憾退掉了。
但念念不忘,必有回響,正好零刻 8 月底新推出 GTR9 PRO ,號稱與 Mac Studio 對標的 “WinStudio”,也使用了這顆 CPU,老馮經過再三調研后,在前幾天京東國補上以 11929¥ 的史低價格入手了這臺 “Win Studio” 4TB 版。
![]()
這兩天終于到手了,開始測試,這里和大家分享一下體驗與心得。事先聲明一下,老馮從來沒接過商單,這玩意是自費購買自用的哈 —— 如果有機會,我倒是還真想嫖一臺,哈哈。
太長不看
在老馮需要的四個場景中,這個小家伙都表現優秀:
AI:可以本地流暢運行 GPT-OSS-120B 模型,大概 20 ~ 50 Token/s ,顯著超出預期。
游戲:各種游戲 4K 高畫質流暢運行,基本沒什么壓力。頂級3A畫質/光追開不了,但流暢玩還是沒啥問題的。
數據庫:運行 PostgreSQL 的性能表現超出預期,pgbench 只讀 QPS 90萬,4寫1讀的讀寫事務 TPS 4萬左右。
虛擬化:直接淘汰掉噪音巨大的 Dell R730 服務器(72c256g),32c128g 跑36 節點仿真也能跑起來。
性價比:一萬塊廉價實現 MacStudio 或者顯卡 DIY 5萬 ~ 10 萬才能跑起來的模型。這還要啥自行車……
老馮的考慮
老馮手頭的電腦可真不少,比如,我的主力機是三年前 Apple Macbook M1 Max (頂配加滿,10C/64G/8TB,當年4萬5入手),本來都該閑魚見換新了,結果,估計又可以再戰個三年。
與此同時,還有一臺 2018 款頂配加滿的 Intel Macbook,吃灰中。還有一臺 2019 年頂配的 X99 DIY 臺式機,i9-9900K 32G + 2080Ti 顯卡,用來打游戲(跑個 Linux 雙系統),以及一臺 Dell R730 二手服務器,72C / 256G / 3.2T 全新 MLC SSD(6000¥),用來開發,測試。
![]()
當然,電腦這個東西更新換代的太快了,而且我的老游戲主機和 Dell 服務器最有點兒太老了,我早就有想法把老的這臺游戲主機和 Dell 服務器給淘汰掉,因為這兩個大家伙特別占地方,而且運行噪音很大。我的需求有:
1.虛擬化:用來拉起很多虛擬機進行 Pigsty 冒煙測試(原本用服務器,性能夠,太吵),同時我需要一臺高性能的 x86 Build Farm 來本地跑 PostgreSQL 擴展編譯。所以需求就是 CPU 越多越好,內存越大越好。2.AI:我的 M1 Macbook 已經可以比較流暢運行 GPT-OSS-20B 和 QWEN 3 系列模型了,但是我想要能跑 GPT-OSS-120B 的版本,在本地有一個可以干些有趣活兒。3.游戲:老馮對游戲沒有太多需求,但偶爾會玩玩 3A 和策略類游戲,畢竟已經有一臺專用的 2080Ti 了。只要能流暢跑起來這些策略類游戲,我就滿意了。4.數據庫:老馮有一個私人數據庫收藏,里面有各種五花八門的數據,(最大的 Github Archive 幾個TB,NOAA ISD 數據一個多TB,還有一堆幾百GB 的數據集),我想常駐一個 PostgreSQL 實例提供服務。
另外這次,我想要換一個小型化的電腦,MINI PC 或者是 ITX 機箱。我更偏好 MiniPC,也是被 DHH 種草了。最后我經過篩選,鎖定了 AMD AI MAX 395 這個 CPU,同時滿足了上面的需求,而且內存可以配置 128GB 8000 MHz 的 LPDDR5X,理論帶寬 256 GB/s。
![]()
備選的產品
然后我就開始篩選搭載這顆 CPU 的產品。還別說,搭載這顆 CPU 的產品都不便宜,普遍在一萬到兩萬的價格區間。第一波篩選進來的包括:ROG 幻 X 2025(20999¥), 極摩客 X2(¥14999),然后就是 零刻的 GTR9Pro(¥12999),還有一個銘凡期貨: MS-S1 MAX 機型(未發布)。
這里的 ROG 幻X 我趁著上海國補 ¥2000 入手了一個 —— 想法很樸素,平板可以帶著跑嘛,但是發現筆記本這個形態根本沒有辦法發揮這顆 CPU 的性能(功耗鎖在 80W 左右)。加上遇到兩次藍屏,平板使用效果也一般,就退貨了。
![]()
我的次優選擇其實最看好銘凡的 MS-S1 MAX,據說有兩個 USB4.0v2 (80Gbps)的口,用來外接顯卡塢什么的非常好。但還沒發布,也不知道價格,老馮也沒那個耐心去傻等。
![]()
所以就是零刻的 GTR 9 Pro 了,這個機型有兩個萬兆網口,而且主要是散熱做工很扎實,可以輕松壓住 120W ~ 140W 的 CPU 功耗,內置了 230w 電源。而且這個樣子就 “果里果氣” 的,幾乎和 MacStudio 一個樣子。而且只要一萬三,比幻 X,極摩客 X1 便宜一大圈。
![]()
讓我立刻決定購買的是 9.4 號這玩意竟然上架了京東直營,可以參與國家補貼減 ¥2000,也就是 ¥10999 —— 不過上架的是 4TB 版本,多了一條 2TB SSD ,原價 ¥13999,國補加券后 11929¥ 就能入手,那這個價格可就太香了。聽說只有 25 臺,基本上放出來一天就賣完了。
到手的體驗
到手之后,我第一個測試的就是 AI 性能,先拉一個 GPT-OSS-120B 起來,輸出速度在 20 ~ 50 Token/s,這個速度很快了,不過這個模型活躍參數不大只有幾個B。AMD AI MAX 對于這種總參數很大,但是激活參數很小的 MoE 模型(GPT-OSS-120B, QWEN3-30B-A3B)簡直就是絕配。
![]()
另外我聽說有人在這個上面成功跑起來了 Qwen3 235B 那個版本,大概占了 120多G 顯存,當然,這個俺還沒試過,估計也不會快,但一萬塊的電腦能跑 235B 模型,這本身這可真讓人震驚。
有人整理了其他模型的速度,我也懶得測試了就貼在這里了。
![]()
總的來說,我對 GPT OSS 120B 的表現很滿意 —— 我的意思是對于我想讓他干的事情 —— 本地分析日志,配置推薦,自然語言轉化命令,都已經足夠聰明了。而且 128GB 的內存能讓你跑一個這種主模型的時候,同時再跑兩個 Embedding 模型 Reranker 模型(比如 Qwen3 8B 系列),一條龍解決知識庫模型需求。
當然,你說蘋果能不能跑的更快,我相信 Mac Studio M3 Ultra 跑這個肯定更快,它的最大內存與內存帶寬(512G,819GB/s)都是這個 “Win Studio” 的四五倍,但它的價格更貴, Mac Studio Ultra3 32C/96GB/4TB 的價格是 51749¥,512G/16TB,819G內存帶寬,10萬8。如果你要用顯卡集群或者是魔改顯卡,差不多也需要大幾萬才能跑起來。但 WinStudio (Linux Studio )在能本地流暢運行主流開源模型的前提下,只要 1/5 ~ 1/10 的價格,那性價比可以說無敵了。
![]()
然后老馮也測試了一下 3A 游戲,開了個黑神話悟空,在我5K 的顯示器上開推薦配置 —— 高畫質全開,沒有光追,還是非常流暢絲滑的。當然畫質跟頂級還是差一些,沒有我的 2080Ti 給力,但是也足夠好了。老馮主要玩一些 P 社策略游戲,所以這個流暢度和畫質也綽綽有余了。據稱基本上可以達到4060 或者移動端 4070 的水準。
最后,老馮測試了一下數據庫的性能。運行 PostgreSQL 17,和 AWS 5代物理級,我的兩臺老 Macbook 去比,性能超出我預期 —— 有點奇怪,每條鏈接能夠承載的只讀/讀寫 TPS 表現相當不俗 —— 只讀表現相當耀眼,甚至干翻了AWS 物理機(96c256G 本地NVMe),讀寫的吞吐效能要稍微弱一些。但也很不錯了。
![]()
然后我用 vagrant + libvirt 嘗試去拉起了 Pigsty 之前的巨無霸冒煙測試環境:36 臺虛擬機,加起來 70多 vCPU(超配100%),毫無壓力,而且相當絲滑,老馮覺得它完全可以替代我的 Dell R730 二手服務器,用來大規模測試,批量編譯。而且即使是滿載,這個噪音放在離我六七十厘米的地方,也依然沒啥感覺。
![]()
另外,值得夸贊的是,自帶 Windows 11 Pro 版,這個比 幻X 的 Win11 家庭版好多了,比如我想要在 Windows 下用 vagrant + hyper-V 虛擬機的話,就得要這個專業版,自帶了就不用我去折騰了。
這個 AI PC 還有一個讓我驚喜的地方是,它竟然可以用 蘋果專用的顯示器 —— LG Ultrafine 5K,這個本來只有蘋果能用,但是新一點的主板(我修過一次換了)可以接 Thunderbolt 3 的視頻輸出。miniPC 帶 5K 顯示器,效果非常好。
老馮給這個 AI PC 安裝了
有人問魯大師跑多少分?老馮是不會去裝這種流氓全家桶軟件的,但看別人跑分大概 三百多萬分出頭,算是很不錯的了。
不好的地方
當然,這個 mini AI 超級桌面計算盒子有沒有讓老馮不滿意的地方呢?也是有的。
第一個不滿意的是接口,它的 USB-A 接口只有兩個,鼠標,鍵盤,手柄,U盤,不太夠用,而且都在后面,前面只有一個 USB-C 口,應該加個 A 口的。不算什么大問題,加個擴展塢就好了。另一個槽點是兩個 USB 接口是 4.0 第一代,差不多相當于 TB4,比較可惜的是現在有 USB 4.0v2 提供 80 Gbps 的帶寬,據說 MS-S1 會搭載,這個沒有,怪可惜的。
老馮最遺憾的是它這個 PCI-e SSD 是 Gen4 的插槽,我是非常想體驗一下 Gen5 14.5 GB/s 的讀寫速度能給數據庫(PostgreSQL / DuckDB )帶來什么樣的體驗。但是奈何 AI MAX 395 只有 4.0 的通道,從根上就斷了這個念想。我也多次糾結到底是不是弄個 9950x3D / Gen5 加普通內存/顯卡,最后還是舍不得 AI Max 的 AI 能力。
![]()
另一個槽點是,我以為 4TB 的版本是給我把現在這一條2TB 升級到 4TB 版本,然后我興高采烈的買了一條西部數據的 SN8100X 4TB 版本(Gen5 先插到 Gen4 槽里),結果發現它這個 4TB 版本是 兩條 2TB ……。而且更讓人惡心的是默認使用的 SSD 是英睿達的,是 QLC 顆粒的,這個讓老馮很不滿意,好馬配好鞍,都上 AI MAX 395 / 128G 8000MHz 這種頂級配置了,不會弄個好點的 SSD 么。
主要是國補的規格只有這個,沒得選,就當這兩條磁盤白給了。老馮準備后面把這個 QLC 破爛插到 NAS 上當緩存盤, 換上一條 8TB 的 WD Gen4 SSD,不過用也就湊合用了。如果有的選,老馮強烈建議買那個不帶盤的準系統(原價 11999,我在淘寶上看到過一次,很快下架了),然后自己弄兩條西數 WD SN850x 4TB 插上。
最后一個槽點是萬兆網卡,雙 10Gbps 網口是一個賣點,但沒有做到開箱即用,老馮折騰了好一陣子才讓它在 Linux 上跑起來。我花了一段時間折騰 Windows 上的有線網卡驅動,甚至重裝了兩遍 Windows。有線網卡甚至沒有顯示在設備列表中,最后找官方客服,用小針捅耳機孔重置,解決了這個問題。
一些有用的小零件
另一個有用的小零件是 NanoKVM。跑 Linux 的時候,我不想在桌子上再擺一套鍵盤鼠標顯示器。就淘寶買了個一百多塊錢的 NanoKVM,可以在 Macbook 上直接從瀏覽器控制 MiniPC。我覺得對于這種迷你 PC 來說簡直是神器。
![]()
另外老馮又趁著國補在淘寶上買了個 “便攜折疊顯示器”,兩個18寸的 2.5K 180Hz 高刷屏,100% DCI-P3 色域,可以獨立/組合使用,兩公斤左右。國補價格 ¥1879,搭配 MiniPC 很不錯,不過這玩意還沒收到,所以也不知實際體驗怎么樣。
![]()
總結
總的來說,老馮對這次買到的 AI PC —— WinStudio 非常滿意,盒子扔掉,決定留下來了。
實際上,我覺得這玩意應該能折騰出不少花出來 —— 插兩條 8TB NVMe SSD 組 RAID。兩臺 x 兩個萬兆網口可以直接留一個出來點對點組集群(連萬兆交換機都省了)。裝上 Pigsty 變成一個 —— AI 數據庫一體機。
性能肯定是管夠的,一臺干到一百多萬的點查詢/點寫入速度輕輕松松。128GB 顯存對半拆分,一臺跑 GPT-OSS-120B,另一臺跑 Qwen3 32B + Qwen Embedding / Reranker ,RAG 全家桶都齊活了。32vCPU 128GB 內存,8~16TB 全閃存儲,兩節點組一個集群,總共才 3萬出頭,400W 的功耗,靜音的效果。連機柜都不用…… 對中小企業來說,可謂是香爆了。
當然,從另一個角度來說,你確實也可以通過這臺 Mini PC 的性價比,意識到云上賣給你的云服務器和云數據庫,溢價到底有多高…… 哈哈。
DHH 最近在搞它的 Linux 發行版 Omarchy ,給俺種草了零刻的 mini PC 和 AMD AI MAX。老馮后面也準備出一個利用這個 AMD MINI AI PC 搭建 Pigsty —— PostgreSQL 數據庫發行版 ,然后拉起 PostgreSQL,Dify,Supabase,配合各種本地 AI 模型,開發本地 AI Agent + 數據庫應用的教程,敬請期待哈哈。
今天就分享到這里,老馮已經忍不住繼續去把玩一下這個新寵了。
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.