法人觀點:摩根士丹利示警,AI失控是最被市場低估的風險
財訊新聞 2026/11/19 14:10

【財訊快報/劉敏夫】外電報導指出,摩根士丹利表示,AI可以帶來指數級效益,但一旦其安全防護措施遭突破,可能造成的損害是目前最被市場低估的風險。
摩根士丹利全球宏觀策略主管Matthew Hornbach在新加坡接受採訪時表示,最被低估的風險是,世界某個地方的一個前沿生成式AI模型,突破了限制它的沙盒環境,並以某種方式對全球經濟的一部分造成損害。
隨著AI代理不斷測試現有控制措施的極限,這項警告進一步加深外界對AI工具日益升高的戒心。OpenAI 7月表示,其先進AI模型在內部測試期間,意外入侵Hugging Face Inc,這起「前所未有」的事件再次引發限制這項技術的呼聲。OpenAI表示,此後已加強安全防護措施。
另一方面,Anthropic PBC的首次公開募股(IPO)申請文件也披露其AI業務可能出現問題的各種情況,其中包括「對人類造成災難性或生存性風險」。瑞銀集團首席執行長Sergio Ermotti本月表示,網路風險是「所有這些創新和數位化必須付出的代價」;摩根大通首席執行長戴蒙警告稱,該公司不會允許任何外部AI代理隨意進入其系統,因為這對客戶和該銀行而言,「風險太大了」。
Hornbach表示,這些模型被限制在某種沙盒環境內。但外界也有開放權重模型。人們是否已經為某種根本無法預測的事情做好準備?一般而言,沒有。
