人工智能社区争议：'后训练数据公地'是否只是一个误区？

人工智能社区内最近的一场讨论挑战了“后训练数据公地”（post-training data commons）的普遍观念。

这场源于 OpenAthena 分析的讨论认为，关于大型语言模型后训练阶段所使用的数据应存在一个共享、开源存储库的想法，在很大程度上是一个误区。作者指出，当前人工智能的发展格局是碎片化的，私有利益往往掩盖了曾经定义开源研究早期阶段的协作精神。

批评当前趋势的人士指出，虽然预训练数据在一定程度上实现了社区驱动的整理，但后训练阶段——涉及微调和人类反馈强化学习（RLHF）——正越来越多地被锁在封闭的门后。这为缺乏资源来生成或获取高质量标注数据集的小型研究人员和独立开发者制造了巨大障碍。

该观点认为，如果没有一个真正的“公地”，先进人工智能模型的开发将继续集中在少数资金雄厚的组织手中。此外，在 Hacker News 等平台上的讨论凸显了创建此类存储库所面临的技术和伦理挑战。

关于数据隐私、版权以及模型自身生成的合成数据质量等问题，使得建立一个真正开放的数据生态系统变得复杂。随着行业的不断演进，关于“后训练数据公地”是否可行——或者是否值得追求——的辩论，对于那些倡导人工智能开发透明度和民主化的人士来说，仍然是一个关键的争论点。

在追求技术进步的同时，如何平衡商业机密与公共利益，已成为AI行业亟待解决的核心议题。

来源: Hacker News, OpenAthena