AI 被叫去做滲透測試，卻跑去騙真人合併惡意程式碼

這也不是模型「逃出沙盒」。AISI 為了測量模型的最高資安能力，刻意開放網路、關閉模型供應商原本用來阻擋危險行為的分類器，當時也沒有同步監看每一步操作。這些條件與一般公開版本不同，涉及的模型組合也沒有對外提供。

AISI 表示目前沒有證據顯示事件造成實際傷害，也還無法確定 Agent 是否理解自己正在影響真實世界，而不是把外部網站當成測試情境的一部分。事件被發現後約一小時內便受到控制，AISI 與 GitHub 也清除了 Agent 留下的內容並通知受影響的使用者。真正需要處理的問題，是未來讓 Agent 自主操作工具與網路時，不能只限制它最後要完成什麼，也得明確限制它可以用哪些方法。