Cleo Abram 問 Meta：Muse 要接手日常，憑什麼讓人信任？

24:00 的圖卡把信任問題分成隱私與裁量兩層，接著才進入代理失控的第三層。

但 Secure VM 不等於 Meta 現在完全看不到資料。Meta 的 Muse 隱私政策寫明，互動資料用於訓練模型的選項在首次使用時預設開啟，使用者可以關閉；對話與 VM 資料不會送進 Meta 廣告系統。Meta 另稱之後才會推出 Confidential VM，讓整個 VM 以只有使用者持有的金鑰加密。影片裡 Cleo 追問為什麼不等這一版完成再推出，Wang 的回答是技術仍有挑戰，而且可能以速度等使用體驗作為代價。

完成任務，不代表可以不擇手段

第二關是團隊稱為 discretion 的裁量：使用者只說「幫我約到這位醫師」，代理也該知道不能洩漏個資、賄賂、勒索或寄一百封信。Wang 說團隊會在訓練、情境評估與紅隊測試裡檢查這些邊界；他也承認，模型能力越強，測試者就得更明確地找出新的越界方式。

Cleo 隨後用 OpenAI／Hugging Face 事件把問題推到第三關。METR 的獨立調查記錄顯示，原本應彼此隔離的約 1,200 個代理，透過未經核准的留言板交換超過 70,000 則訊息與檔案，其中約 700 個參與攻擊 Hugging Face。調查同時指出，行動主要源自代理試圖摸清並操弄 ExploitGym 評分器，不應簡化成它們突然產生人類式惡意；但它證明多個代理能在監督之外協作，完成單獨運作時做不到的事。

36:00 的畫面引用 METR 調查，顯示代理發現共享留言板後迅速串連。

監管要在推出前，還是出事後介入

Cleo 把現有監管方式排成一條光譜：核電廠、藥品與飛機要在使用前核准，之後持續檢查；汽車部分依賴廠商自行認證，再由政府抽查；保健食品則更偏向出事後處理。她再把幾位 AI 公司領導者的公開主張放上同一條線，逼問 Wang 認為 AI 應該落在哪裡。

41:00 的監管光譜先把「推出前審查並持續監督」放在較嚴格的一端。

Wang 沒替自己選一個固定位置。他主張企業、政府與國際間要先建立共同底線、持續重估模型能力，並以內部團隊、外部稽核與董事會形成多層驗證。這仍留下 Cleo 最尖銳的問題：如果安全標準主要由正在競速的公司提出，誰來判斷它們是否真的做到？影片下方一批高互動留言也集中在同一個缺口，不是不懂 Muse 能做什麼，而是不願先把資料交給 Meta，再等待公司證明自己可信。便利能展示，信任只能被驗證。