三行支援清單先被排上去了：DeepInfer 的自有部署，是一頁要逐項核對的介面

2026年10月20日，DeepSeek 開源了自家的大型語言模型推論框架 DeepInfer。多數報導把焦點放在「支援 NVIDIA SM100 與華為昇騰 950」這兩個晶片名稱上，但真正值得細讀的，其實是官方文件裡那份很短的清單：模型是 DeepSeek-V4.1-Flash，晶片平臺只有這兩款。其餘段落則反覆出現同一種語句，某元件「尚未完整公開」、「屬於完整服務所需」、「與內部基礎設施高度耦合」。

這份文件把「能不能自行部署」設計成了一頁需要逐項核對的介面。它誠實，但誠實的方式是留白：可以用的寫得很清楚，還沒給的也寫得很清楚。讀的人得自己把兩邊對起來。

框架在整疊架構裡的位置

先釐清這套框架在整個系統裡做什麼。模型定義輸入如何轉成輸出，晶片負責大量矩陣運算，框架夾在中間，負責載入模型、安排請求、分配運算、管理生成流程。官方列出最佳化核心運算、平行化、非同步排程與結構化輸出等功能，其中結構化輸出可依設定產生符合 JSON 格式或文法限制的內容。

換句話說，框架能啟動模型，不等於整套線上服務已經具備流量入口、身份驗證、監控與故障復原。文件裡反覆出現的提醒，正是針對這個落差：官方列出晶片平臺，不代表同品牌其他設備也在範圍內，更不等於兩種晶片效能相同。這種寫法把驗證責任明確交還給使用方。

這種「支援條件寫清楚、其餘自行確認」的文件設計，與我們先前觀察過的 Snow Shot 把輕量設計成可核對表格 有相似的誠實感：承諾不以形容詞表達，而以可核對的條件清單表達。

離線範例與線上服務之間的空白

公開程式庫提供的是離線推論入口。離線推論的工作量與啟動時間容易預先規劃，適合測試模型能否載入、輸出是否符合預期；範例可下載預設權重，也可指定本機模型目錄從本地檔案執行。

線上服務則是另一回事。請求在不同時間抵達、長短不一、可能突然增加，系統要決定請求送往哪個節點、如何限制排隊時間、如何處理逾時重試與節點失效。文件說明得很直接：KV cache 系統、分階段部署與跨副本負載平衡等元件，尚未納入公開版本，且相關程式與內部基礎設施高度耦合。

KV cache 記錄已處理文字的中間狀態，減少後續生成時的重複計算。它的儲存、查找、淘汰與跨節點共用，牽動記憶體、儲存、網路與資料一致性。文件也提到 prefill（提示詞預填）與 decode（逐字生成）兩階段運算特性不同，拆開部署可分別調配資源，但會增加節點間傳遞快取與排程協調的複雜度。官方表示已有多數引擎功能，但視覺編碼器、prefill 與 decode 分離、跨副本負載平衡仍有未公開部分。

核對，而不是想像

工程團隊該怎麼讀這份開源？文件自己給了方法：以相同模型、提示長度、併發量與服務目標做實機測試，再估算硬體、電力、整合與維運成本。不能只從架構示意圖推定功能已全部附上。

DeepSeek 另有 Search API 提供遠端搜尋與網頁擷取端點，兩者用途不同：一個是可自行建置的推論程式碼，一個是代管服務。選擇前要先確定要解決的是資料控制、服務依賴還是運算成本。這個決策結構被文件排得很清楚，類似我們在 DeepSeek 相位敏感性論文 裡看到的傾向：把可變因素攤開，讓讀的人自行承擔判斷。

DeepInfer 這份開源的價值，不在於它立刻讓團隊擁有一套線上服務，而在於它把「框架能做什麼」與「完整服務還缺什麼」畫出了清楚的邊界。留白也是一種介面設計；對照著晶片清單、快取說明與未公開元件逐項打勾之後，部署與否的答案自然會浮出來。