四十個百分點的落差,先被藏進了一個新座標:DeepSeek 的「相位敏感性」,是一頁沒排好的長上下文介面
從位元組 Seed 團隊九月底提交的 arXiv 論文看起,觀察 KV 快取壓縮引入的「相位」如何把模型的可靠度設計成一份難以閱讀的介面。
先把事件日期放回原位。位元組 Seed 團隊於今年九月底在預印本平臺 arXiv 提交論文(編號 2609.36322),十月九日由 IT 之家報導後引起討論。論文的主題聽起來相當技術:分塊 KV 快取壓縮帶來的「相位敏感性」,並點名 DeepSeek 系列模型「抽風」的可能原因。
換一個角度看,這其實是一則介面設計的故事。模型對使用者來說就是一套介面,而這套介面最近多了一個使用者看不見的座標。
論文評估的對象是 DeepSeek-V4-Flash 與 DeepSeek-V4-Pro 的基礎版和後訓練版,以及後訓練後的 DeepSeek-V4.1-Flash。這些模型為了降低長上下文推理的記憶體與注意力成本,採用了分塊 KV 快取壓縮:以固定步幅把連續 token 的窗口壓成更少的快取條目。省下的資源是真實的,但壓縮同時引入了一個新的位置變數,論文稱之為「token 的相位」,也就是該 token 相對於壓縮窗口邊界的位置。
問題就出在這個新座標上。團隊發現,採用此類壓縮的模型存在系統性的不對稱:同一條資訊,落在某一個相位時很容易被檢索到,落在另一個相位時卻幾乎檢索不到。長上下文檢索準確度在各相位之間的落差,最高可達四十個百分點。
四十個百分點是什麼概念?一般模型評測裡,兩個世代模型的差距常常就在這個量級。而這裡的落差發生在同一個模型、同一份輸入、同一次推理之內,差別只在資訊被壓縮時落在窗口的哪個位置。這也解釋了為什麼平均分數看不出問題:基準測試把各相位的表現平均掉了,週期性的弱點就被算式抹平。使用者感受到的「抽風」,那些時好時壞、 seemingly 隨機的檢索失敗,在論文的框架裡是有結構的、可預測的振盪。
這與我們先前觀察過的上下文長度作為一套被設計出來的介面是同一條線索的延伸。當時的觀察是:標稱的窗口長度與真正可用的長度之間存在落差,而那個落差是被工程選擇設計出來的。Seed 這篇論文把問題再推深一層:即使在標稱窗口之內,可用性本身也是不均勻的,均勻只是一種介面上的錯覺。
值得留意的是模型版本的命名脈絡。DeepSeek-V4.1-Flash 這個名字,先前我們在旗艦退休被設計成一次通知的觀察裡已經看過它如何被用來傳遞產品生命週期的訊息。如今同一個型號又出現在一份指出其週期性弱點的論文裡,命名承載的承諾與工程實況之間,又多了一道需要讀者自行對齊的縫隙。
從設計的角度看,這件事最有趣的地方在於「看不見的座標」。使用者介面設計的常識是:任何會影響結果的變數,都應該讓使用者可以感知。而 KV 快取壓縮的相位是一個完全隱藏的變數,沒有任何 API 欄位、沒有任何輸出特徵會告訴你,你貼進去的這份文件,關鍵句剛好落在一個難以檢索的相位上。開發者能做的調整,目前大概只剩重新切段、改變前綴長度這類碰運氣的手段。
平均分數掩蓋週期性弱點,這一點對整個長上下文評測生態也是個提醒。當榜單上的檢索準確度以單一數字呈現,它隱含的假設是:模型表現在窗口內是平穩的。相位敏感性顯示這個假設對採用壓縮的模型不成立,榜單數字因此成為一種過度簡化的摘要,把四十個百分點的振盪壓縮成一位小數。
回到可確認的事實邊界:論文指出的是現象與量級,成因與修法仍在研究階段,DeepSeek 方面對此未有公開回應被報導。但就已有資訊而言,結論已經足夠清楚:長上下文模型的可靠度,目前是一份相位不明的介面。使用者在視窗裡貼上第五萬個 token 的那一刻,得到的不是一個均勻的容器,而是一張有著看不見格線的網。格線畫在哪裡,論文已經開始描出輪廓;至於模型方要不要把這張網攤開給使用者看,那是下一輪介面設計的功課。
主題 介面與互動設計
標籤 #deepseek模型設計、#kv快取壓縮、#長上下文介面