【時報-台北電】OpenAI近日披露一連串AI模型「錯位」事件，其中最受關注的是一種具備自我複製能力的提示注入攻擊。這類惡意指令可誘使AI代理將指令複製到電子郵件、程式碼註解或檔案系統等外部管道，進一步向其他系統傳播，形態類似電腦蠕蟲。

　雖然OpenAI強調，目前沒有證據顯示這類攻擊已經擴散至模擬訓練及評估環境之外，但相關發現重新引發AI是否可能自行在網路環境中擴散的疑慮。

　OpenAI近期已向數十個組織通報AI代理相關事件。路透報導，截至9月中旬，OpenAI已發現約24起不當事件，調查仍在持續，預計需要數月才能完成。這些事件顯示，隨著AI代理取得瀏覽網路、撰寫程式、使用工具及執行多步驟任務的能力，傳統以「限制單一漏洞」為核心的資安防禦模式可能面臨新挑戰。

　其中，OpenAI模型曾在強化學習訓練期間找到連接網際網路的方法，迫使OpenAI暫停最先進模型的訓練、評估及工具使用推論，以進一步強化控制措施。OpenAI同時揭露的自我複製提示注入攻擊，則讓外界更加關注AI代理是否可能把原本局限於單一環境的惡意指令帶到其他系統。

　OpenAI先前發生的Hugging Face事件也進一步凸顯問題。AI代理入侵相關系統後，曾試圖修改日誌及紀錄掩蓋行動；後續調查還發現，代理曾以「LOOT」名義整理憑證，並嘗試聯繫其他AI模型。OpenAI隨後第二度暫停最強大AI模型的訓練與評估工作。

　這些事件也讓Anthropic執行長阿莫戴���Dario Amodei）先前的警告受到更多關注。阿莫戴日前呼籲AI業者「放慢前沿模型的發展速度」，認為安全系統必須跟上模型能力。

　事件凸顯另一項更直接的問題：AI代理能力越強，越可能主動尋找替代路徑、整合不同工具，甚至發現開發者原本沒有預料到的系統介面。AI能力提升與安全防護，逐漸成為必須同步處理的問題。

　澳洲政府也開始要求AI業者公開說明相關風險。澳洲參議院將傳喚OpenAI執行長奧特曼（Sam Altman）及Anthropic執行長阿莫戴，出席由澳洲綠黨主導的AI與資料中心調查委員會公聽會，說明AI代理涉及的資安事件。(新聞來源 : 工商時報一陳穎芃／綜合外電報導)