《大陸產業》中企大模型 資安攻防掀兩難

【時報-台北電】隨著中美元首年內「習川三會」即將在深圳APEC峰會期間登場,AI安全也是雙方關注議題之一。港媒指出,大陸AI企業開始在模型中移除網路攻擊功能,並保留防禦能力,避免AI模型被用作進行惡意攻擊行為,但此做法或使其競爭力下降。
今年10月,多國網站使用的程式語言PHP被AI識別發現兩處重大漏洞,質疑駭客可能透過先進AI模型控制伺服器,盜取私人數據及篡改網站,掀起全球AI資訊安全風暴。
港媒報導,大陸AI模型企業已關注到相關風險,科技巨頭騰訊月初公布新一代AI模型Hy4,特別公開其資安訓練策略及安全評估機制,包括軟體漏洞分析與修復、逆向工程及安全滲透測試分析等。此外,今年10月,月之暗面升級旗艦模型Kimi K3.1 Pro,同樣刪除與網絡安全相關數據,以降低其網攻能力。
然而,防駭能力升級反而會降低整體模型效能及競爭力。據月之暗面公布數據顯示,Kimi K3.1 Pro在移除網攻能力後,在內部網安基準測試中得分為81%,而未受限訓練版本得則為90.5%。
中美AI企業目前在AI資安問題採取不同策略。美國AI企業Anthropic於4月發表新模型Claude Mythos Preview,強調可自主發現數千個作業系統、瀏覽器及開源軟體的零日漏洞,並啟動全球資安防禦計畫「Project Glasswing」,僅供可信任客戶使用。而大陸AI企業則傾向透過資料過濾,選擇性消除模型網攻能力。
美智庫布魯金斯學會研究員Kyle Chan表示,一旦模型訓練排除網攻能力,將導致部分能力��失或減弱。也就是說,大陸AI模型必須取捨編程和AI代理能力因此下降。
研究機構Counterpoint Research AI首席分析師孫偉指出,限制可能會削弱大陸AI模型專業功能,但目前未有證據反映會對其競爭力構成負面影響。
今年10月,大陸商務部擬對關鍵技術實施出口管制,當中包括利用AI自主驅動生成、修改及變異惡意代碼技術。
孫偉表示,AI企業不太會因管制完全放棄開源軟體,反而是選擇性地開放。(新聞來源 : 工商時報一黃浩/綜合報導)
