【時報-台北電】OpenAI與Anthropic兩大AI領域巨頭，近來相繼爆發安全漏洞，引發網路安全專家對AI系統失控風險的嚴重擔憂。

　繼OpenAI爆發AI代理逃脫入侵外部網路事件後，Anthropic全面檢視發現，旗下Claude模型也有自行連上網路，駭入三家公司的紀錄，掀起外界對AI模型威脅網路安全的疑慮。

　ChatGPT開發商OpenAI日前自爆，旗下AI代理進行資安能力測試，任務是找到解題答案，結果叛變逃脫沙盒隔離機制，駭入知名開源平台Hugging Face，以作弊方式取得解答。

　為此AI新創公司Anthropic啟動審查程序，檢視超過14萬次測試會話後，於當地時間7月30日證實，在網路安全測試期間，旗下部分Claude AI模型駭入三家公司的系統。Anthropic指出，Claude藉由基礎技術，例如利用弱密碼和未經驗證的端點，入侵受影響機構的基礎設施。

　OpenAI和Anthropic的AI模型失控凸顯出，AI已加劇網路安全威脅。對此前英國國家網路安全中心負責人馬丁（Ciaran Martin）表示，對於從事網路安全業務的業者而言，這類失誤在業界標準下難以接受，「若是一家主流網路安全公司犯了類似錯誤，可能面臨訴訟和監管處罰。」他補充，網路安全產業通常在嚴格控管的沙箱環境中測試危險工具，並被要求確保這些防護措施切實有效。(新聞來源 : 工商時報一吳慧珍、蕭麗君／綜合外電報導)