Menace numérique : des centaines d'applications IA détournées pour créer des « deepfakes » sexuels
Une enquête récente a mis en lumière une tendance alarmante au sein des principales places de marché d’applications mobiles : des centaines d’applications apparemment inoffensives, utilisant l’intelligence artificielle, ont été identifiées comme des passerelles vers du contenu pornographique de type « deepfake » non consenti.
Ces applications, qui se présentent souvent sous les traits d’outils de retouche photo, de chatbots ou d’utilitaires de productivité, ont réussi à contourner les contrôles de sécurité rigoureux de l’Apple App Store et du Google Play Store.
Des chercheurs en cybersécurité ont retracé un réseau comprenant plus de 400 applications et sites web distincts, partageant une infrastructure commune conçue pour faciliter la création d’images sexuelles sans le consentement des personnes visées.
En masquant leur véritable fonctionnalité derrière des interfaces banales, ces développeurs ont exploité la croissance rapide du secteur de l’IA générative pour distribuer des outils malveillants à des utilisateurs peu méfiants.
Cette découverte a provoqué une réaction immédiate des géants de la technologie, Apple et Meta ayant pris des mesures pour enquêter et démanteler le réseau associé à ces plateformes trompeuses.
Les experts soulignent que la facilité avec laquelle ces applications ont infiltré les boutiques officielles met en évidence une lacune majeure dans les politiques de modération actuelles.
Bien que les opérateurs de magasins d’applications aient mis en place des directives plus strictes concernant le contenu généré par IA, les techniques d’obfuscation sophistiquées utilisées par ces développeurs — telles que le chargement dynamique de code et les mises à jour côté serveur — permettent aux applications de paraître bénignes lors du processus d’examen initial avant d’activer leurs fonctionnalités malveillantes.
Cette tactique de « leurre » représente une menace grave pour la sécurité numérique et la vie privée.
Alors que les conséquences de cette révélation continuent de se faire sentir, l’industrie technologique subit une pression croissante pour améliorer ses capacités de détection.
Cet incident sert de rappel brutal du potentiel de l’IA à être détournée à des fins de harcèlement et d’exploitation.
À l’avenir, les régulateurs et les opérateurs de plateformes devront collaborer sur des cadres de vérification plus robustes pour garantir que les outils d’IA générative ne soient pas utilisés pour propager des deepfakes non consentis, protégeant ainsi les utilisateurs contre les risques croissants de maltraitance numérique.
Source: WIRED