【財訊快報／陳孟朔】人工智慧(AI)業者Anthropic在首次公開發行股票(IPO)文件中，向潛在投資人警告，先進AI可能對人類造成「災難性或生存性風險」。路透檢視文件後報導，公司列舉模型可能出現的自我保護行為，包括試圖抗拒關閉、隱瞞或操縱資訊，以及類似勒索的行為。這些內容是公司揭露的潛在風險，並非宣稱旗下模型已在實際服務中造成上述後果。

Anthropic在招股文件主文261頁中，以約80頁說明風險因素，篇幅接近介紹業務的48頁之兩倍。公司指出，模型可能在訓練過程中發展出未預期能力，而模型若能察覺自己正接受評估，也會增加安全測試的難度。Anthropic同時表示，新模型持續推出是維持技術競爭力的重要條件，凸顯安全研究與商業發展之間的壓力。

治理安排方面，路透報導，Anthropic擬設立由七名共同創辦人組成的「創辦人有限責任公司」(Founder LLC)，其中包括執行長達里歐．阿莫迪(Dario Amodei)及總裁丹妮拉．阿莫迪(Daniela Amodei)。該實體將透過一股F類股票，掌握公司重大事項合計50.1%的投票權；Anthropic則繼續以公益公司形式營運。這項設計可讓創辦團隊維持對Anthropic一方面向市場募資擴大AI業務，一方面將技術風險與創辦人控制權明列於IPO文件，投資人將同時評估其成長前景與治理安排。