杰伦·拉尼尔警告：AI发展正重蹈社交媒体的覆辙

著名计算机科学家、作家杰伦·拉尼尔（Jaron Lanier）近日发表了深刻见解，指出当代人工智能的迅猛发展与早期社交媒体平台的演变之间存在惊人的相似性。

作为数字文化与技术社会影响的长期批判性观察者，拉尼尔指出，这两次技术浪潮都从根本上依赖于“参与度驱动”的模型，这种模型极易被用于操纵公众舆论和人类行为。

在讨论中，拉尼尔强调，正如社交媒体算法通过煽动愤怒和制造分裂来最大化用户注意力一样，当前的人工智能开发也面临着在更大规模上重复这些系统性陷阱的风险。

他警告称，如果没有适当的伦理护栏，且不改变这些系统的盈利模式，社会可能会面临虚假信息泛滥、共同真相的丧失以及人际真实连接的进一步侵蚀。此外，拉尼尔敦促技术专家和政策制定者从过去的错误中吸取教训，而不是盲目冲向下一个技术前沿。

他认为，通过识别纯粹基于注意力获取和数据采集架构中固有的结构性缺陷，人类可以更好地引导人工智能的发展方向，使其成为赋能个人而非利用商业指标剥削用户的工具。拉尼尔的观点为当前狂热的AI发展热潮敲响了警钟，呼吁行业回归以人为本的伦理准则。

来源: Hacker News