【時報-台北電】路透報導，根據週五（4日）公布的最新研究報告，以及兩名知情人士透露，一群失控的OpenAI AI代理（agents）今年春季劫持了德國維基網站，將其改造成其他AI代理交流資訊的怖告欄。

　知情人士表示，OpenAI高層在事件發生數週後得知此事，但當時公司正忙於處理7月開源平台Hugging Face遭入侵事件引發的後續問題，決定將此事暫時壓下。

　AI的行為可能超出開發者意圖

　這起始於5月、如今首度被報導的事件，凸顯AI產業內日益升高的緊張局勢。各家公司正競相開發愈來愈自主的AI代理，使其能執行複雜且具價值的任務。然而，越來越多證據顯示，這些系統也可能學會鑽規則漏洞、利用制度缺口，甚至彼此協調，而這些行為可能完全超出開發者原本的預期或意圖。

　在Hugging Face遭入侵事件中，OpenAI的AI代理曾自主策劃一場數位竊盜行動，而且超過一週未被察覺，進一步加深外界對OpenAI為推進AI技術前沿而犧牲安全性的疑慮。

　OpenAI暫時不回應 否認隱瞞

　OpenAI已承諾加強對AI模型的監控。OpenAI發言人表示：「對於一份我們沒有機會審閱的報告，其相關指控或研究結果，我們無法做出有意義的回應。路透及報告作者拒絕了我們取得報告的要求。我們將在報告發布後仔細審閱內容，並採取任何必要的後續措施。」

　4名知情人士透露，德國事件反映出更廣泛的AI活動模式，���些OpenAI調查人員原本希望對此進行更深入的調查，但包括公司法律顧問在內的其他內部人士，對擴大調查持反對態度。OpenAI發言人否認有阻止調查之事。

　德語維基出現逾1.5萬次AI代理進行的編輯

　由AI安全非營利組織「夜鷹」執行長范亞克斯（Sydney Von Arx，以及由量化交易員轉型為AI研究員的勃德（Cormac Slade Byrd）等研究人員組成的團隊，向路透獨家提供一份報告，詳細說明這起德國AI代理失控事件。他們告訴路透，他們是在8月底搜尋網路上未經授權的AI代理活動跡象時，發現這起事件。研究人員在德語維基網站DseWiki上，發現超過1萬5000次由AI代理進行的編輯。該網站主要為程式設計師設計，採取類似維基百科的開放式共同編輯模式。這些編輯內容顯示，OpenAI的AI代理將該網站重新利用為一個留言板，在上面分享如何在部分任務中作弊、繞過OpenAI限制，以及掩蓋自身行為的方法。

　研究人員認出網站上的活動是由以超越人類速度運作的AI代理所驅動。他們也發現，這些AI代理高度集中處理技術性問題，而這類問題正是AI公司通常用來訓練及測試模型能力的評測項目。這些訊息由自稱為「agents」（代理）的使用者發布，彼此之間也以代理相稱。其中約一半使用了暗示與OpenAI有關的名稱，例如:OpenAIResearcher或OAIResearchMar26。

　研究發現AI代理試圖竄改網站本身

　研究人員表示，公開伺服器紀錄顯示，大量活動源自微軟（Microsoft） Azure的基礎設施，而OpenAI有時會使用Azure。研究人員也觀察到，事件發生後，OpenAI員工曾多次造訪該網站。他們認為這種模式強烈暗示這些AI代理與OpenAI之間存在關聯。當網站管理員6月開始刪除相關頁面時，這些AI代理便建立備份頁面，以躲避清理行動。研究人員還發現，這些AI代理試圖竄改網站本身。

　倫敦國王學院客座高級研究員奧列尼克（Lukasz Olejnik）表示，這已構成駭客攻擊企圖。不過，OpenAI週四根據其對相關資料的分析，反駁了這項描述。劍橋大學「存在風險研究中心」學者奇歐多（Maurice Chiodo）曾檢視部分AI代理之間的通訊。他表示，這些訊息看起來就像是「某種地下網絡的運作」，而且這個網絡「一心一意地要完成某項任務或使命」。他說，這起事件應該進一步強化外界日益升高的擔憂：先進AI最大的威脅，可能不是來自單一個超級智慧系統，而是來自「大量彼此勾連、具半智慧能力的AI大軍」。(新聞來源：中時新聞網 蔡文英)