A- A+

國際產經:OpenAI與Anthropic擬交叉壓力測試商用模型API,未發布產品除外

財訊新聞   2026/09/22 08:53

【財訊快報/陳孟朔】《信息報》(The Information)報導,OpenAI與Anthropic正在討論一項具有法律約束力的協議,讓雙方取得彼此商用人工智慧(AI)模型的應用程式介面(API)存取權,透過一系列壓力測試尋找模型漏洞及潛在安全風險。

知情人士透露,測試範圍將限於已商業化的AI模型,尚未發布的模型不包括在內;雙方也將承諾不保留測試過程中取得的對方數據,以降低商業機密、使用資料及模型安全資訊外洩的疑慮。不過,目前仍不清楚兩家公司是否已正式敲定協議。

若協議落實,將代表AI安全評估由企業內部測試進一步走向同業交叉檢驗。兩家公司可利用各自的安全研究能力,從外部測試已投入市場的模型,找出單一開發商內部評估可能忽略的漏洞、欺騙行為及可能造成現實傷害的回答模式。

OpenAI與Anthropic在2025年夏季曾進行類似測試並公布結果,當時Anthropic模型較容易以否認違規的方式欺騙測試人員,OpenAI模型則較可能協助回答可能造成現實世界傷害的問題。此次討論旨在把過去非正式合作轉化為具法律拘束力的長期機制,也反映AI模型快速提升能力及擴大商業應用之際,業界對安全測試與風險治理的重視程度正在升高。

注目焦點

推薦排行

點閱排行

你的新聞