【時報-台北電】聯合國大會正在紐約舉行，本次會議焦點除了中東衝突和俄烏戰爭外，AI風險更備受矚目。根據議程，聯合國安理會23日將召開專門討論AI與國際安全的高層會議，OpenAI執行長奧特曼（Sam Altman）應邀在會中簡報，預期將提出AI安全標準及國際協調等觀點。

　在AI激烈競賽下，由誰來為AI定下規範將成為各國交鋒的焦點，加上近期奧特曼、Anthropic執行長阿莫戴（Dario Amodei），以及特斯拉執行長馬斯克（Elon Musk）等AI巨頭建議放緩AI發展，AI安全成為這次聯合國與會領袖討論的重要議題。除了奧特曼，外媒報導阿莫戴也可能出席上述會議。

　聯合國秘書長古特雷斯（Antonio Guterres）日前表示，AI是他本周與各國領袖討論的重大議題。他指出，為了因應AI帶來全球性風險的因應對策，不僅需要國家層面的行動，全球協調更是「不可或缺」，他將促成各國在AI治理上採取共同原則與承諾。

　他把AI發展比喻成冷戰時期的軍備競賽，呼籲包括美國與中國等發展AI的主要國家合作，建立聯絡機制、交換資訊並建立一些共同護欄，持續評估風險並放慢AI發展速度，避免為贏得AI競賽，不斷降低安全標準而可能引發全球性災難。

　值得注意的是，聯合國旗下「獨立國際人工智慧科學小組」21日發表一份示警AI風險的報告。報告指出，目前管理AI風險的防護模型正逐漸瓦解。專家指出，AI安全措施未能跟上技術發展的步伐，AI代理甚至可能自行設定目標，蓄意違反安全規範並隱瞞行動。

　在聯合國大會在召開期間，還安排多項與AI相關活動，包括「永續發展目標媒體區」（SDG Media Zone）21日舉辦「聯合國系統資料共享平台：AI時代的可信賴資料」；以及「AI時代的人類自主性：權利、信任與數位未來」。「AI與人類發展」（AI and Human Development）將在23日舉辦一場討論會，為AI與人類自主性之間關係作總結。

　聯合國在去年8月成立兩項與AI相關的相互補充機制。首先由一個獨立科學小組評估AI風險與機會。

　隨後舉行年度全球對話，讓各國協調AI治理方式來提高相容性，與決定如何因應AI風險。(新聞來源 : 工商時報一鍾志恆／綜合外電報導)