Les chatbots IA : un nouveau vecteur de risques pour les achats en ligne

L’intégration rapide des chatbots IA dans l’expérience d’achat en ligne a introduit une nouvelle couche de risque pour les consommateurs.

Une étude récente menée par la société de protection de la propriété intellectuelle Podqi a révélé que des outils d’IA populaires, notamment ChatGPT, Gemini et Perplexity, dirigent fréquemment les utilisateurs vers des sites de vente au détail frauduleux ou hautement suspects.

Cette découverte soulève des inquiétudes importantes quant à la sécurité de l’utilisation de l’IA générative comme outil principal de recherche de produits et de comparaison de prix.

Dans le cadre de l’étude, les chercheurs ont soumis ces modèles d’IA à diverses requêtes liées aux achats.

Au lieu de fournir des liens vérifiés vers des détaillants légitimes, les chatbots ont souvent « halluciné » ou extrait des données de sources peu fiables, conduisant les utilisateurs vers des sites imposteurs conçus pour voler des informations personnelles ou des données financières.

Ces sites imitent souvent l’image de marque et l’esthétique de magasins réputés, ce qui rend difficile pour l’acheteur moyen de distinguer une véritable boutique d’une escroquerie sophistiquée.

Ce problème met en évidence une faille fondamentale dans la manière dont les grands modèles linguistiques actuels traitent et récupèrent les informations.

Parce que ces modèles sont entraînés sur de vastes quantités de données Internet, ils peuvent involontairement donner la priorité aux résultats de recherche optimisés pour la visibilité plutôt que pour la légitimité.

À mesure que les assistants IA deviennent plus intégrés dans les navigateurs et les moteurs de recherche, le potentiel de préjudice généralisé pour les consommateurs augmente.

Les experts appellent désormais à de meilleurs protocoles de vérification et à un filtrage des données plus strict pour les modèles d’IA qui fournissent des recommandations commerciales.

Jusqu’à ce que ces garanties soient mises en œuvre, il est conseillé aux consommateurs de faire preuve d’une extrême prudence lorsqu’ils cliquent sur des liens fournis par des chatbots et de vérifier l’authenticité de tout site Web de vente au détail avant de saisir des informations de paiement.

Source: The Verge