【財訊快報／陳孟朔】美國加州州長紐森(Gavin Newsom)上週五(18日)簽署行政命令，要求州政府加速建立更嚴格的人工智慧(AI)安全與監管架構，並研究為高階AI模型設置「緊急停止開關」(kill switch)的可行性，以便在模型出現重大事故、失控或危及公共安全時，政府能迅速介入並中止其運作。加州並將成立由AI與資安專家組成的工作小組，研擬更完整的州級監管框架。

Newsom批評聯邦政府在AI監管與問責機制上進展不足，認為在AI能力快速提升、代理型系統開始具備自主執行任務能力之際，不能只依賴業者自律。州長辦公室並呼籲其他州及聯邦層級參考加州模式，包括加強第三方安全測試、獨立稽核，以及建立在緊急狀況下可強制關閉高風險模型的制度。

這項行政命令是在美國AI安全爭議快速升溫之際推出。Anthropic研究員Jacob Coxon9月稍早辭職並公開警告，高階AI若缺乏適當控制，可能帶來極端風險；OpenAI執行長Sam Altman、Anthropic執行長Dario Amodei等人近期也先後呼籲建立更嚴格的安全評估與外部監督。反觀，美國總統Donald Trump則主張現有工具已足以監管AI，並反對因安全疑慮放慢美國AI發展，以免削弱對中國的競爭優勢。

加州擁有OpenAI、Anthropic、Google、Meta等大量AI企業與研究機構，因此其州級規範具有高度示範效應。市場後續將關注「緊急停止開關」究竟會以模型層級、雲端運算層級或數據中心層級落實，以及是否會進一步衍生強制第三方稽核、事故通報及模型部署許可等規範；若加州率先建立具執行力的AI安全框架，可能成為美國其他州甚至聯邦政府後續立法的重要參考。