130 秒的建議先被排進了側邊欄:Chrome 內建大模型,是一種被免費包裝出來的等待
從 V2EX 一則用 Chrome 內建大模型免費取得網頁優化建議的分享看起,觀察一款瀏覽器插件如何把模型選擇、下載進度與 130 秒的等待設計成一套介面取捨。
一則發布在 V2EX「分享創造」板面的帖子,最近示範了一件事:瀏覽器裡的大模型,可以被包成一支插件,替自己的網頁生成優化建議。發文者 vnex 的思路直接,利用 Chrome 內建的 prompt API 等介面,呼叫裝置端模型,免去 API 費用。可選的模型包括 nano_v3_gpu_component、gemma4_component、gemma4_12b_component、gemma4_4b_component,成品是一個側邊欄面板,把建議拷貝到自己的 AI 編輯器裡接著用。
先把流程攤開看。安裝方式有兩條路:正式版還在 Chrome 線上應用程式商店審核中,想先用的得去 GitHub 下載 Release 的 zip 包,解壓縮後打開 chrome://extensions,開啟開發者模式,以「未打包的擴充功能」載入。裝好之後,在側邊欄裡把選項切到「使用瀏覽器內建模型」,點下載模型,進度要去 chrome://on-device-internals 那個頁面看。跑完之後,建議出爐。
這套流程裡最誠實的一個數字,是發文者自己給的:在他的機器上,整個過程耗時約 130 秒。他甚至補了一句「確實很慢」,並且提醒,如果切換成使用自己的大模型,會快很多,系統目前有贈送幾次測試額度,但資源有限,隨時可能終止。
這裡的設計取捨值得停下來看。免費與速度,在這個插件裡被明確擺成了兩個選項:瀏覽器內建模型換的是零成本,代價是 130 秒的本地運算與一次模型下載;自有模型換的是速度,代價是接回雲端與額度。介面沒有掩蓋這件事,反而把「不同機子速度不一樣」直接寫進了說明文字。跟多數把體驗包裝得毫無摩擦的 AI 產品相比,這種把成本攤開來講的排版,反而比較少見。
下載進度被放在 chrome://on-device-internals,也是一個能讀出意圖的細節。插件沒有為自己做一條進度條,而是把使用者送去 Chrome 的內部診斷頁。這可以說是省事,也可以說是一種老實:模型下載本來就是瀏覽器的事,進度自然由瀏覽器自己交代。對願意打開開發者模式、手動載入未打包擴充功能的使用者來說,這條路不算門檻;但對一般使用者,正式版還卡在商店審核中,目前的安裝體驗仍舊是開發者取向的。
把鏡頭拉遠一點,這件事與我們先前觀察過的選大模型其實是在選一套信任介面是同一個題目的另一面。當模型能夠在裝置端被呼叫,信任的物件就從雲端服務商移到了瀏覽器本身:資料不出機器,但運算時間、硬體差異與模型品質的賬,改由使用者自己的機器來付。發文者那句 130 秒,就是這筆賬最具體的報價。
這類裝置端模型被封裝成側邊欄工具的做法,接下來大概會更常見。Chrome 的 prompt API 把呼叫模型的權限交給了擴充功能開發者,於是每一個小工具都可以替自己接上一個「免費的大腦」,差別只在於每個開發者願意把等待成本誠實地寫到什麼程度。這一點上,這個插件把慢說清楚了,比起許多把延遲藏在意圖不明動畫後面的產品,是更體面的介面態度。
免費當然是真的免費,只是帳單換了一種形式,由你的機器與你的一百三十秒來支付。