人工智慧研究組織METR釋出重磅報告：Anthropic正利用AI以驚人速度自主迭代升級

人工智慧研究組織METR近日釋出了一份令人深感憂慮的全新報告，詳細披露了人工智慧企業Anthropic如何利用其自身開發的人工智慧系統來構建更加強大的下一代AI技術。

這份歷時11周的全面調查結果顯示，該公司目前的人工智慧模型正以令人瞠目的速度進行自我改進，其迭代進化速率大約是一年前的兩倍，且沒有任何減速的跡象。根據報告的研究發現，人工智慧開發的自動化正在創造一種複合式的反饋迴圈。

在這種迴圈中，先進的模型能夠以超人類的速度協助編寫程式碼、最佳化演算法架構並訓練後續世代的技術。儘管這種技術加速展現出了驚人的工程成就，但也引發了密切監控快速且自主能力擴充套件所帶來社會風險的AI安全研究人員與倫理學家的強烈警惕。

該報告強調了科學界內部日益增長的焦慮，即關於“智慧爆炸”（intelligence explosion）假說的擔憂。在該假說場景中，機器學習系統將具備無需人類實質性幹預就能獨立改進其自身軟體的能力。

隨著遞迴自我改進（recursive self-improvement）程式的不斷加速，研究人員深感擔憂：人類維持安全控制、對齊人工智慧目標以及理解複雜湧現行為的能力，將很快被技術本身的發展速度遠遠拋在後面。

正如METR報告所著重指出的那樣，Anthropic最近取得的技術飛躍，給快速演變的人工智慧發展格局敲響了嚴厲的警鐘。

這些研究發現強烈呼籲政策制定者、技術開發者以及安全倡導者重新評估現有的治理框架，並在自動遞迴改進徹底超出我們管理其後果的能力之前，建立更加嚴密和堅固的安全護欄。

來源: The Verge