人工智慧社群爭議：'後訓練資料公地'是否只是一個誤區？

人工智慧社群內最近的一場討論挑戰了“後訓練資料公地”（post-training data commons）的普遍觀念。

這場源於 OpenAthena 分析的討論認為，關於大型語言模型後訓練階段所使用的資料應存在一個共享、開源儲存庫的想法，在很大程度上是一個誤區。作者指出，當前人工智慧的發展格局是碎片化的，私有利益往往掩蓋了曾經定義開源研究早期階段的協作精神。

批評當前趨勢的人士指出，雖然預訓練資料在一定程度上實現了社群驅動的整理，但後訓練階段——涉及微調和人類反饋強化學習（RLHF）——正越來越多地被鎖在封閉的門後。這為缺乏資源來生成或獲取高質量標註資料集的小型研究人員和獨立開發者製造了巨大障礙。

該觀點認為，如果沒有一個真正的“公地”，先進人工智慧模型的開發將繼續集中在少數資金雄厚的組織手中。此外，在 Hacker News 等平臺上的討論凸顯了建立此類儲存庫所面臨的技術和倫理挑戰。

關於資料隱私、版權以及模型自身生成的合成資料質量等問題，使得建立一個真正開放的資料生態系統變得複雜。隨著行業的不斷演進，關於“後訓練資料公地”是否可行——或者是否值得追求——的辯論，對於那些倡導人工智慧開發透明度和民主化的人士來說，仍然是一個關鍵的爭論點。

在追求技術進步的同時，如何平衡商業機密與公共利益，已成為AI行業亟待解決的核心議題。

來源: Hacker News, OpenAthena