YouTube 影片筆記
兩台 Mac Studio 跑 8160 億引數模型的實測成本與等待時間
原片標題：Apple × Meta 讓兩台 Mac Studio 跑起 8160 億參數 AI！真的能拿來工作嗎？
原片說明
祖克伯桌上那兩台 Mac Studio 一擺出來，我第一個念頭是「這是在炫富還是在跑模型」？結果還真的是後者。Meta 的 Muse Spark Open 有 816B 引數，Apple 用兩台 M5 Ultra 讓它在本機每秒吐 25 個 token，兩家以前為了廣告追蹤吵成那樣，這次居然能好好相處。但能跑跟能拿來工作，是兩件事。
影片時間軸
- 00:36拆解 816B 模型為什麼單台 Mac Studio 裝不下
- 01:54比較 Pipeline 與 Tensor 兩種分工，速度從 16 拉到 25 token
- 02:24加到四台後每秒 37 token，但記憶體優勢沒用上
- 02:45長輸入 65536 token 時，等第一個 token 要 40 秒以上
- 03:30Meta 展示用 Agent 改 Ice Cubes 專案並完成建置
- 03:56另一個展示是達芬奇逐幀挑畫面、裁成直式
- 04:46自己架要準備什麼：MLX、Thunderbolt 5 直連、SSH
- 05:56算給你看：兩台 62 萬起，對比雲端 API 每次 5.5 美元
回答漂亮跟專案能建置是兩回事
Meta 拿 Muse Spark Open 配 Muse Code，在本機改開源 App Ice Cubes，自己讀檔、動手改、再呼叫工具確認能不能編譯。對用過 Codex 或 Claude Code 的人來說，這段落講得很實在：寫得漂亮跟整個專案建得起來，中間差很遠。另一個展示是讓 Agent 逐幀看影片、挑畫面、裁直式，但這只能操作現有素材，生不出一支新片。
二十五個 token 量不到工具卡住
Apple 的每秒 25 個 token 跟 Meta 那兩段工作展示，量的根本不是同一件事。Agent 要搜尋檔案、執行程式、等軟體回應，出錯還得重試，模型吐字再快，工具卡住照樣要等。技之道說他更在意最後交出來的片段能不能用，而不是很快做完卻不能用，這句我認同。另外 Meta 沒公佈這兩段展示花了多久，也沒公佈 4-bit 量化後的準確率掉多少。
買回本很難，除非你每天大量跑
台灣 256GB 的 M5 Ultra Mac Studio 起價 31 萬 1 千元，兩台就 62 萬，而且 512GB 版本要到 10 月底才推出，實際價格還不能直接乘二。同一模型在 Together AI 上，輸入加輸出各 100 萬 token 約 5.5 美元，偶爾寫程式、整理檔案的人想靠省 API 費買回本，很難。真正划算的是每天有大量固定工作、又不能把內部程式碼送出去的團隊，代價是硬體、電費、維護跟多人同時使用的效能都得自己扛。
值得下載嗎：值得，如果你在評估本地大型 AI 的可行性，這支把成本、等待時間跟限制都攤開講清楚了；但如果只是想看熱鬧，片尾那幾個數字看一下就夠了。