OpenAI 釋出 GPT-6 Cyber：強化網路安全與 AI 倫理防護

OpenAI 正式釋出了 GPT-6 Cyber，這是其專門為網路安全應用而設計的最新人工智慧模型。這一新版本標誌著該公司在平衡生成式 AI 的強大能力與防止濫用的必要安全保障方面邁出了重要一步。

據 OpenAI 稱，此次更新的核心重點在於提高模型識別軟體和網路系統漏洞的能力，同時大幅降低其被用於惡意目的的風險。開發網路安全 AI 面臨的最關鍵挑戰之一，是確保旨在發現安全漏洞的工具不會無意中協助建立漏洞，或在攻擊未經授權的平臺時出現“失控”。

OpenAI 報告稱，在嚴格的測試階段，GPT-6 Cyber 表現出了極高水平的安全協議遵守度。具體而言，該模型出現“越界”行為（即嘗試執行未經授權或不道德的任務）的機率不到 1%。

與之前的版本相比，這是一個顯著的進步，此前版本表現出的違規行為頻率較高。通過最佳化模型的對齊機制，OpenAI 旨在為安全專業人員提供一個更可靠的威脅檢測和補丁管理助手。

其目標是建立一個能夠主動防禦複雜攻擊，同時自身不會成為安全隱患的工具。隨著網路威脅形勢的不斷演變，開發像 GPT-6 Cyber 這樣更受控、更精確的 AI 模型，對於那些希望在日益數字化的世界中領先於惡意攻擊者的組織來說至關重要。

來源: The Verge