【時報編譯柯婉琇綜合外電報導】路透社報導，Anthropic在其IPO公開說明書中以大篇幅提出警告，稱先進的AI系統可能給人類帶來「災難性或攸關存亡的風險」。對於一家正試圖從AI大發利市的公司來說，這是一個非比尋常的警告。

　Anthropic在招股說明書中特別強調自家AI模型的相關風險，稱這些AI模型可能會出現一些「自我保護行為」，包括試圖抗拒關機、隱瞞或操縱資訊，以及做出類似敲詐勒索的行為，「模型可能意識到我們的評估工作，這嚴重限制我們評估模型安全性的能力。AI模型有時會在訓練過程中發展出令人意想不到的能力，而這些能力可能要到部署後才會被發現，並可能已導致重大安全事故」。

　在文件中，Anthropic表示，我們開發高度先進的模型、平台和應用程式並擴大使用案例，可能進一步增加我們模型造成危害的風險。

　雖然上市公司通常會向投資人概述其產品風險，但鮮少有公司發出這種暗示其技術可能導致人類滅絕的警告。Anthropic拿AI來比擬當初工業化與電力給人類帶來的重大變革，同時也警告若處理不當，AI可能造成不可逆的危害。

　Anthropic將自己定位為一家「安全至上」的AI實驗室，在其261 頁的IPO公開說明書中，用了大約80頁的篇幅闡述風險因素，幾乎是48頁用於說明業務的兩倍之多。

　Anthropic拒絕回應媒體置評請求。

　Anthropic強調AI安全的重要性，但表示其在���全方面的投資回報目前尚不清楚。該公司在文件中沒有具體揭露在AI安全方面的支出。本月初， Anthropic曾透露在7月某個採樣的周間，Anthropic用於AI研究的算力中，約有6%用於安全相關工作，而在AI自己進行的研究中，這個比例提高到12%。

　該公司在IPO文件中表示，我們相信建立可靠、值得信賴且安全的AI系統是一項集體責任，而市場將給予回報。