一張 B200 顯卡租一小時 8 美元，DeepSeek 說它一小時能賺 38 美元，這數字也太誇張了吧。更扯的是線上輸入有 96% 根本不用重算，等於絕大多數的工都白省下來了。10 月 20 日他們把支撐這一切的推理框架開源，我看完的第一個念頭是：原來 AI 貴不貴，關鍵根本不在模型多聰明，在廚房怎麼排單。

影片時間軸

1. 00:46先分清楚開源模型權重跟開源推理框架是兩件事
2. 01:44這次開源的是推理框架 DeepInfer 加配套的 Recipe
3. 02:46附上賬本：單叢集一天 155 萬億 token，每卡每小時 38 美元
4. 04:04消息進門先被 Recipe 翻譯成 token，還防人偽造系統暗號
5. 05:45讀題跟寫答案脾氣不同，所以拆成 PD 分離各自優化
6. 07:50KV cache 筆記本讓 96% 的輸入直接命中，價格差 50 倍
7. 09:02筆記存哪？蓋一座 100PB 的檔案館，聊天存七天
8. 10:21V4.1 把近視眼層的短期筆記趕出檔案館，省下近一半空間
9. 11:35MOE 像醫院分診，四套分診臺壓住木桶效應
10. 13:35投機解碼讓實習生寫草稿、老專家把關，D-Spark 再砍三成檢查量
11. 15:30潑冷水：離線版本，檔案館跟跨機分診沒開源，門檻 64 加 64 張卡

開源的是廚房不是配方

很多人以為模型開源就是把本事交出來，其實給的是權重，相當於公開招牌菜配方。DeepSeek 這次給的是中央廚房：怎麼排單、怎麼分工、半成品怎麼複用。同一份權重交給不同團隊部署，成本可以差好幾倍，所以推理框架才是大模型公司最值錢的工程秘密之一。去年四月他們還說過跟自家叢集綁太死、不打算開源，這次等於把話收回來了。

九成六的輸入根本不用重算

你每發一條新消息，模型都要把整段對話從頭讀一遍，聊五十輪第五十一輪就重讀五十輪，寫程式的智慧體每呼叫一次工具更是全部重發。KV cache 就是讀題時記的筆記，開頭一樣就能直接翻。線上平均 96% 的輸入命中筆記，去年二月這個數字才 56%。沒命中每百萬 token 一塊錢，命中兩分錢，差五十倍，這就是智慧體能便宜跑起來的真正原因。

連最慢的那張卡都不準拖隊

MOE 像醫院分診，每個 token 只去需要的專科診室，但幾十張卡同步前進，只要一間診室排隊全部卡都得陪等。DeepSeek 開了四套分診台，熱門專家多開幾間、多放副本，還定期按流量重排班，結果最慢的卡只比平均慢不到 10%。閒時打五折也不是佛心，是把需求挪到機器閒著的時候，順便多留機器揹著應付尖峰。

值得下載嗎

如果你是想搞懂 AI 推理成本到底怎麼算的人，這支很值得留，它把黑箱攤開給你看。但別期待載下來就能跑，離線版本、只支援自家模型、起跳 128 張資料中心顯卡，個人電腦真的別想。