山東
IT之家 4 月 14 日消息，YouTube 博主 Alex Ziskind 前天發(fā)布視頻，使用 Tiny Corp 最近發(fā)布的開源驅動，將英偉達 RTX 5090 顯卡與蘋果 Mac mini M4 Pro 搭配使用，并在 macOS 上成功運行。
蘋果多年前與英偉達鬧掰，導致 macOS 系統(tǒng)失去后者的 GPU 驅動支持，也讓 CUDA 生態(tài)在 macOS 幾乎消亡，開發(fā)者只能被迫轉向蘋果自家的 Metal 架構。
據(jù)介紹，“Tiny GPU”開源定制驅動可以通過雷靂 5/USB4 接口連接外置顯卡，讓 RTX 5090 直接與蘋果芯片 Mac 通信，完全不需要虛擬機等性能折損方案。
Alex Ziskind 在視頻中成功將 RTX 5090 連接到 Mac mini，運行 Llama 3.1 8B 模型時性能約為 7.48 Token/s。
他在視頻中強調(diào)，RTX 5090 并沒有在 macOS 中跑出全部性能。主要是因為驅動當前依賴 Tiny Grad 編譯器，未使用 Metal / CUDA 原生優(yōu)化，性能相比 Metal 原生方案慢了 10 倍。不過 Blackwell 架構的優(yōu)勢也有體現(xiàn)，其首 Token 響應速度相比 Metal 方案快 3-4 倍。
因此，雖然這套方案目前還無法替代成熟的 Metal 開發(fā)環(huán)境，但它仍是蘋果 Mac 平臺近年來首個可用的外接顯卡跑大模型方案。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
