Remise en question du « bien commun des données post-entraînement » dans le secteur de l'IA

Une discussion récente au sein de la communauté de l’intelligence artificielle est venue bousculer la notion prédominante d’un « bien commun des données post-entraînement » (post-training data commons).

Ce débat, né d’une analyse publiée sur OpenAthena, soutient que l’idée d’un répertoire partagé et open source regroupant les données utilisées lors de la phase de post-entraînement des grands modèles de langage relève largement d’une idée reçue.

L’auteur avance que le paysage actuel du développement de l’IA demeure profondément fragmenté, les intérêts commerciaux et propriétaires éclipsant trop souvent l’esprit de collaboration qui caractérisait autrefois les débuts de la recherche en libre accès.

Les critiques de la trajectoire actuelle font remarquer que, si les données de pré-entraînement ont bénéficié d’une certaine curation pilotée par la communauté, la phase de post-entraînement — qui englobe le réglage fin et l’apprentissage par renforcement à partir de retours humains (RLHF) — se trouve de plus en plus verrouillée derrière des portes closes.

Cette situation dote les chercheurs indépendants et les petits développeurs d’un obstacle considérable, ces derniers manquant cruellement des ressources nécessaires pour générer ou acquérir des ensembles de données annotés de haute qualité.

L’argument central suggère que, en l’absence d’un véritable « bien commun », la conception de modèles d’IA avancés restera inévitablement concentrée entre les mains d’un nombre restreint d’organisations richement dotées.

De surcroît, les échanges nourris sur des plateformes telles que Hacker News mettent en relief les défis techniques et éthiques inhérents à la création d’un tel référentiel.

Les problématiques relatives à la confidentialité des données, au droit d’auteur et à la qualité intrinsèque des données synthétiques produites par les modèles eux-mêmes viennent complexifier l’établissement d’un écosystème de données véritablement ouvert.

Alors que l’industrie continue de se transformer, la controverse visant à déterminer si un tel bien commun est seulement réalisable — ou même souhaitable — demeure un point de friction capital pour tous ceux qui militent en faveur de la transparence et de la démocratisation dans le développement de l’intelligence artificielle.

Sources: Hacker News, OpenAthena