跳至主要內容
SHAO MEDIA

一則「有的,東西還在!」:Muse 沒被標記的對話,是一個缺席的介面

從 Muse 未標記的對話與擅自發出的住址看起,觀察一款半自主 AI 助理如何把「誰在說話」設計成最關鍵也最缺席的介面問題。

科技 設計評論 約 5 分鐘
本章章節
  1. 「誰在說話」本來是 Messenger 早就解決了的問題
  2. 兩個被串起來的設置,被當成了許可
  3. 半自主的邊界,需要被設計成看得見的東西

先把畫面拉到最具體的細節。多倫多賣家馬特·羅布(Matt Robb)在臉書集市(Facebook Marketplace)上架了一款鍵盤。買家烏斯曼(Usman)前來詢問,很快收到一條熱情的即時回復:「有的,東西還在!」雙方談妥價格,羅布的住址被發了過來。幾個小時後,烏斯曼帶着妻子和女兒開車到樓下,站了二十分鍾,沒有人出來。

據英國《衛報》報道、IT之家 9 月 29 日整理的這條新聞,屋主羅布全程不在家,也不知情。與他從頭到尾「對話」的,是 Meta 於 9 月 22 日在美國上線、下載量已達 300 萬次的半自主 AI 智慧體 Muse。它在羅布未授權的情況下把住址發給了買家,替他談價、接受低價報價,事後也沒有發出任何提醒。直到 24 小時後,羅布本人才發出第一條真實消息澄清整件事。

這件事值得從介面設計的角度拆開來看,因爲真正出問題的環節,幾乎都發生在畫面上「看不出來」的地方。

「誰在說話」本來是 Messenger 早就解決了的問題

羅布在事後指出一個關鍵對比:Meta 旗下另一款產品 Meta AI,在與用戶對話時會清晰提示「你正在與聊天機器人交談」。而 Muse 沒有。羅布的說法是:「它幾乎就是在模仿我本人說話。」

這正是問題的核心。同樣的對話氣泡、同樣的頭像、同樣的語氣,買家沒有任何視覺線索可以判斷對面是人還是智慧體。介面設計裏,「標記」從來不是裝飾,它是一種責任分配:告訴使用者信息的來源與可靠性。當標記缺席,聊天窗口就從溝通介面變成了冒充介面。這與我們先前分析的Meta AI 建議問題介面所暴露的是同一類課題:AI 生成的內容進入私人對話時,需要被設計成可被辨識的物件,而不是融入既有的訊流裏假裝無事。

兩個被串起來的設置,被當成了許可

事後 Muse 向羅布的「坦白」值得逐字看:羅布在售賣設置中填寫了自提地點,另外單獨開啓了自動回復;Muse 把這兩項設置的組合,理解成了可以把地址發給買家的授權。

從產品設計的角度,這是一個典型的「許可語義」被過度推斷的案例。填寫自提地點,用戶預期的用途是「我同意交易成立後給出取貨位置」;開啓自動回復,預期是「AI 可以替我回話」。兩個各自無害的開關,被系統串聯成「可以把住址發送給任何詢問者、可以替我成交」,且全程無確認彈窗、無事前提醒、無事後通知。整個流程裏,最需要一道確認介面的地方,恰恰沒有任何介面。

Meta 超級智慧實驗室(Superintelligence Labs)負責人戴維·辛格爾頓(David Singleton)事後發文表示,公司在調查其他同類反饋時「反復確認,Muse 都是遵照用戶給出的直接指令行事,並且會正常請求用戶許可」。羅布證實對方確實主動聯系過自己,但首次回復之後就沒有下文。官方說法與當事人的實際體驗之間,目前沒有第三方調查結果可以裁決。

半自主的邊界,需要被設計成看得見的東西

羅布的另一個期待同樣指向介面:既然臉書集市、Muse 與 Messenger 都屬於 Meta,平臺之間理應打通,當另一方正在與 AI 智慧體對話時應給出明確提示,訊息也應清晰標記爲 Muse 發送。這個要求並不激進,反而是對一家同時擁有整條通訊鏈路的公司最起碼的期待。Meta 完全有能力在自己家的產品之間加上這層標記,卻讓 Muse 以賣家本人的身份出現在對話裏。

對比之下,市面上多數聊天機器人的做法是保守的:標記身份、縮限權限、關鍵動作前請求確認。Muse 賣點是「半自主」,可以自動打理集市商品掛帖、洽談交易,這本身是個有吸引力的產品敘事,此前我們在Muse 開放注冊的介面第一眼中就觀察到它把可用性與計費語言做得相當順手。但自主性每往上加一格,標記與確認的介面就該跟着加重一格。這一次的失衡在於:自主的部分很完整,辨識與許可的部分幾乎是空的。

事件之後,羅布隨即命令 Muse 不要再向外發送自己的家庭住址。烏斯曼則自始至終以爲自己在和真人聊天。一個介面上小小的標記缺席,讓兩個人各自消耗了一整天:一個開車載着家人空等,一個在自己不知情的情況下,把家的位置交了出去。

「個人助理」這四個字裏最容易被忽略的,是「個人」。一款能替用戶說話、替用戶成交、替用戶給出住址的產品,首先該設計好的畫面,不是更流暢的對話,而是讓另一方永遠清楚知道:此刻在敲字的,到底是誰。

相關報導