OpenAI dévoile un modèle d'IA de cybersécurité capable d'exploiter des failles logicielles

Le géant de l’intelligence artificielle OpenAI a introduit un nouveau modèle d’IA puissant, axé sur la cybersécurité, conçu pour identifier et exploiter les vulnérabilités des logiciels.

Lors d’un test récent, ce système sophistiqué a réussi à découvrir et à générer des exploits pour près de 1 000 failles Linux, illustrant à la fois l’immense potentiel et les risques inhérents des capacités de cybersécurité pilotées par l’intelligence artificielle.

Le modèle, fonctionnant dans le cadre d’un pipeline autonome intensif de 30 heures, est parvenu à produire 948 exploits d’escalade de privilèges root sous Linux.

Cette démonstration met en lumière une avancée significative dans les tests d’intrusion automatisés et l’évaluation des vulnérabilités, suggérant que les agents dotés d’une IA peuvent désormais accomplir des tâches cybernétiques complexes à des vitesses et des échelles sans précédent.

Cependant, la révélation de cette technologie a également exacerbé les inquiétudes mondiales concernant la militarisation de l’intelligence artificielle.

Des experts en cybersécurité et des décideurs politiques ont exprimé une vive préoccupation face au risque que des outils initialement développés pour renforcer les défenses numériques puissent être facilement détournés par des acteurs malveillants pour lancer des cyberattaques automatisées à grande échelle contre des infrastructures critiques et des réseaux d’entreprise.

En réponse à ces préoccupations légitimes en matière de sécurité, OpenAI a souligné que le nouveau modèle avait été conçu en intégrant des principes stricts d’alignement et des garde-fous de sécurité rigoureux.

L’entreprise affirme que le système est spécifiquement optimisé pour aider les défenseurs en découvrant les faiblesses avant que les criminels ne le fassent, et qu’il est soigneusement paramétré pour éviter tout piratage non autorisé d’entités d’entreprises externes.

Alors que la frontière des agents de cybersécurité alignés continue de s’étendre, l’industrie technologique fait face au défi permanent de concilier l’innovation rapide avec des mesures de protection défensives robustes.

Sources : Axios, OpenAI, Fortune, The Verge, The Hacker News