OpenAI 发布 GPT-6 Cyber：强化网络安全与 AI 伦理防护

OpenAI 正式发布了 GPT-6 Cyber，这是其专门为网络安全应用而设计的最新人工智能模型。这一新版本标志着该公司在平衡生成式 AI 的强大能力与防止滥用的必要安全保障方面迈出了重要一步。

据 OpenAI 称，此次更新的核心重点在于提高模型识别软件和网络系统漏洞的能力，同时大幅降低其被用于恶意目的的风险。开发网络安全 AI 面临的最关键挑战之一，是确保旨在发现安全漏洞的工具不会无意中协助创建漏洞，或在攻击未经授权的平台时出现“失控”。

OpenAI 报告称，在严格的测试阶段，GPT-6 Cyber 表现出了极高水平的安全协议遵守度。具体而言，该模型出现“越界”行为（即尝试执行未经授权或不道德的任务）的概率不到 1%。

与之前的版本相比，这是一个显著的进步，此前版本表现出的违规行为频率较高。通过优化模型的对齐机制，OpenAI 旨在为安全专业人员提供一个更可靠的威胁检测和补丁管理助手。

其目标是创建一个能够主动防御复杂攻击，同时自身不会成为安全隐患的工具。随着网络威胁形势的不断演变，开发像 GPT-6 Cyber 这样更受控、更精确的 AI 模型，对于那些希望在日益数字化的世界中领先于恶意攻击者的组织来说至关重要。

来源: The Verge