IT之家 4 月 14 日消息,YouTube 博主 Alex Ziskind 前天發(fā)布視頻,使用 Tiny Corp 最近發(fā)布的開源驅動,將英偉達 RTX 5090 顯卡與蘋果 Mac mini M4 Pro 搭配使用,并在 macOS 上成功運行。
![]()
蘋果多年前與英偉達鬧掰,導致 macOS 系統(tǒng)失去后者的 GPU 驅動支持,也讓 CUDA 生態(tài)在 macOS 幾乎消亡,開發(fā)者只能被迫轉向蘋果自家的 Metal 架構。
據(jù)介紹,“Tiny GPU”開源定制驅動可以通過雷靂 5/USB4 接口連接外置顯卡,讓 RTX 5090 直接與蘋果芯片 Mac 通信,完全不需要虛擬機等性能折損方案。
![]()
Alex Ziskind 在視頻中成功將 RTX 5090 連接到 Mac mini,運行 Llama 3.1 8B 模型時性能約為 7.48 Token/s。
他在視頻中強調(diào),RTX 5090 并沒有在 macOS 中跑出全部性能。主要是因為驅動當前依賴 Tiny Grad 編譯器,未使用 Metal / CUDA 原生優(yōu)化,性能相比 Metal 原生方案慢了 10 倍。不過 Blackwell 架構的優(yōu)勢也有體現(xiàn),其首 Token 響應速度相比 Metal 方案快 3-4 倍。
![]()
因此,雖然這套方案目前還無法替代成熟的 Metal 開發(fā)環(huán)境,但它仍是蘋果 Mac 平臺近年來首個可用的外接顯卡跑大模型方案。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.