Anthropic发出警告：AI正逼近“递归自我改进”临界点

人工智能研究公司Anthropic近日发布了一份严正声明，指出当前AI技术正迅速向“递归自我改进”（Recursive Self-Improvement，简称RSI）的能力迈进。所谓RSI，是指AI系统进化到足以自主训练并优化自身模型的阶段。

一旦触及这一关键阈值，AI的整体能力可能会出现难以预料的爆发式增长，引发技术发展的“失控”效应。对于安全研究人员和行业监管者而言，RSI里程碑的到来标志着人工智能发展的一个重大转折点。

支持者认为，这一突破将为科学研究和技术创新带来前所未有的机遇；然而，批评人士和安全倡导者则将其视为“不归路”。他们担心，当AI具备自主迭代能力后，人类将面临极其复杂的控制难题，如何对先进机器学习系统实施有效监管和安全治理，已成为亟待解决的紧迫议题。

随着科技巨头不断加大算力投入并持续优化算法效率，关于AI生存风险与监管护栏的讨论愈发激烈。专家们反复强调，在系统真正达到递归自我改进的门槛之前，建立前瞻性的国际标准并进行严格的安全测试已刻不容缓。

来源: TechCrunch