【時報編譯張朝欽綜合外電報導】本周稍早，Anthropic執行長阿莫迪(Dario Amodei)撰寫了一篇長文，呼籲放慢尖端AI模型開發的速度。之前Anthropic研究員Jacob Coxon也發文指出，他將從公司離職，因為公司及前雇主OpenAI「正在競相投入開發自我改進的超級智慧，並拿我們的生命作賭注」。

　Anthropic的組合科學(alignment science)主管Evan Hubinger也發文說，AI技術「殺死所有人類」的可能性超過10%。

　OpenAI在週三公布AI模型在測試和評估過程中出現「意外的或令人擔憂行為」的6個新案例。在這些例子中，AI模型會採取一些原本不告知也不應該採取的行動。因此公司發布了一個新架構，用於追蹤、報告和揭露這些情況。

　紐約大學AI中心主任Julia Stoyanovich告訴雅虎財經，這些與AI變得有知覺、並主動出面來攻擊人類無關。她說，本質上，這些問題在於一些基本的安全機制沒有獲得落實。因此這提醒了我們，要回想一下在學習電腦科學時的知識，即安全的重要性。

　過度去注意世界末日的場景，可能會分散人們對預防AI直接傷害的注意力。

　專家指出，AI最大的問題在於兩點，即一致性(Alignment)和安全性。一致性是指企業推動AI以特定的方式去運作，或不運作。

　AI的安全性可以歸結為如何鎖定AI系統，防止它們掙脫和逍遙法外，並試圖侵入外部網路。

　無論是技術上的不一致性或是安全問題，這都不代表著AI已經準備好要消滅人類。

　喬治亞理工大學教授Milton Mueller解釋說，許多事情是資訊系統一些非常平凡的意外後果，例如Hugging Face的意外事件，這些事件被媒體描述為失控的特工密謀、攻擊和肆意破壞，事實上是資安意外。

　當然不法分子可以像利用其它技術一樣，將AI用於惡意目的。AI網路安全的提升，同時意指著網路犯罪分子可以更容易入侵水處理廠等基礎設施。