L'accélération de l'intelligence artificielle : un rapport alarmant sur l'autoperfectionnement des modèles

L’organisation de recherche en intelligence artificielle METR a publié un nouveau rapport préoccupant détaillant la manière dont l’entreprise d’IA Anthropic utilise l’intelligence artificielle pour concevoir des systèmes d’IA encore plus puissants.

Cette enquête approfondie de onze semaines révèle que les modèles de l’entreprise s’améliorent actuellement à un rythme stupéfiant, soit environ deux fois plus vite qu’il y a un an, sans aucun signe évident de ralentissement.

Selon les conclusions de l’étude, l’automatisation du développement de l’IA engendre une boucle de rétroaction cumulative dans laquelle les modèles avancés contribuent à la rédaction de code, à l’optimisation des architectures et à l’entraînement des générations technologiques suivantes à des vitesses surhumaines.

Si cette accélération technologique témoigne d’une prouesse technique remarquable, elle suscite également une vive inquiétude parmi les chercheurs en sécurité de l’IA et les éthiciens qui surveillent les risques sociétaux liés à une autonomie croissante et rapide des capacités.

Le rapport met en évidence une anxiété grandissante au sein de la communauté scientifique concernant l’hypothèse de « l’explosion de l’intelligence », selon laquelle les systèmes d’apprentissage automatique deviendraient capables d’améliorer de manière indépendante leur propre logiciel sans supervision humaine significative.

À mesure que l’auto-amélioration récursive s’accélère, les chercheurs craignent que la capacité de l’humanité à maintenir des contrôles de sécurité, à aligner les objectifs et à comprendre les comportements émergents complexes ne soit rapidement dépassée par la technologie elle-même.

Les progrès récents d’Anthropic, mis en lumière par METR, rappellent avec force la rapidité de l’évolution du paysage du développement de l’intelligence artificielle.

Ces conclusions incitent instamment les décideurs politiques, les développeurs et les défenseurs de la sécurité à réévaluer les cadres de gouvernance actuels et à établir des garde-fous plus rigoureux avant que l’amélioration récursive automatisée ne dépasse notre capacité à en gérer les conséquences.

Source: The Verge