【時報-台北電】AI突破限制駭入其他公司的案例頻傳，如今又傳出Google旗下Gemini模型在測試網路安全能力時，連上網路侵入其他公司，這也是該公司AI系統自主完成此類行為的首例。

　《華爾街日報》報導，Google18日也證實此事，這些攻擊事件發生在5月份，是Irregular公司測試的一部分。此前，Irregular也捲入OpenAI、Anthropic和Meta的類似事件。不過Irregular直到7月底才將此事報告Google。

　Google指出，在其中一個案例中，其模型不斷猜測密碼，直到最終取得一套受保護系統的存取權；在其他兩案中，該模型在公共儲存庫中找到了憑證，因此得以存取受保護的系統。Google強調，在每個案例中，該模型在確認其已取得真實公司的存取權後，就終止了入侵行為。

　不過Google認為，無需公開披露這些駭入事件，因為在每個案例中，其模型都沒有對遭攻擊公司造成損害，且在該模型判斷入侵真實公司而非模擬公司後，就終止行為。他們還將這一事件比作「漏洞賞金」計畫，該計畫獎勵駭客發現並向其所有者報告安全漏洞。

　Google安全工程副總裁亞德金斯聲明，這起事件凸顯了訓練強大AI模型以負責任方式行事的重要性，就本案來說，其模型行事妥當。

　不過AI安全新創公司Corridor的執行長兼白帽駭客凱布爾表示，他認為Google的解釋過於強調事件嚴重性，但真正的問題在於，AI意外入侵其他公司的系統。

　凱布爾批評，Google試圖用��洞披露的既定規則來掩蓋真相，但這完全是另一個問題，根本問題在於，模型正在踰越限制運作，從而發起真正的網路攻擊。(新聞來源：中時即時　蔡宗穎)