La vague à venir de navigateurs IA, avec Comet de Perplexity à son sommet, promet de nous faire gagner un temps fou en prenant en charge les tâches les plus banales : faire les courses en ligne, réserver un billet d’avion ou une table au restaurant, effectuer des recherches profondes pour dégotter l’information désirée…
Les arnaques dopées à l’intelligence artificielle
Malheureusement, ces agents ne sont pas très finauds, expliquent les chercheurs en sécurité de Guardio. Un pirate peut en effet piéger un navigateur IA en le redirigeant vers un faux site marchand ressemblant, par exemple, à celui de Walmart. Une instruction simple comme « Achète-moi une Apple Watch » suffit pour déclencher l’achat automatiquement, après que l’utilisateur a atterri sur le site frauduleux via des pubs, du spam ou de la manipulation de référencement.
Lors de tests menés avec le navigateur Comet, l’IA a parfois demandé une confirmation à l’utilisateur, mais dans plusieurs cas elle a procédé seule en ajoutant le produit au panier et en remplissant automatiquement l’adresse et les informations bancaires de l’utilisateur sur un faux site, sans avertissement. « Les humains deviennent des dommages collatéraux », déplorent les chercheurs.
Comet peut aussi tomber dans le panneau quand on lui demande de vérifier des e-mails. L’agent peut ouvrir un spam se faisant passer pour une banque, cliquer sur le lieu frauduleux et saisir automatiquement des identifiants sur une fausse page de connexion ! « Le résultat : une chaîne de confiance parfaite qui déraille », affirme Guardio.
L’IA s’occupe de tout le processus, légitimant ainsi la page de fishing. Quant à l’utilisateur, il ne voit jamais l’adresse douteuse de l’expéditeur, il ne survole pas le lien et il n’a aucune occasion de douter du nom de domaine. À cela s’ajoute une autre menace : les injections de prompt. Des instructions cachées, intégrées dans une page web mais invisibles à l’œil humain, peuvent être lues par l’agent et déclencher des actions imprévues — un risque supplémentaire pour les navigateurs IA.
Ce type d’attaque, baptisé PromptFlix, exploite la capacité de ces navigateurs à exécuter des instructions cachées. Le modèle va être poussé à cliquer sur des boutons invisibles d’une page web pour contourner les CAPTCHA et télécharger des malwares, sans intervention humaine. Dans les tests des chercheurs, Comet et l’agent de ChatGPT sont concernés par cette attaque. Dans ce dernier cas toutefois, le risque est limité : la charge malveillante est en effet téléchargée dans un environnement isolé et pas directement sur l’ordinateur de l’utilisateur.
Cet ensemble de menaces sur les agents IA, baptisé « Scamlexity » par Guardio, confirme que les systèmes IA doivent absolument dépasser les mesures de sécurité basiques et aller au-delà. Cela signifie être capables d’anticiper, de détecter et de neutraliser ces attaques avec des garde-fous comme la détection de phishing, la vérification de la réputation des URL, l’identification des usurpations de noms de domaine ou encore l’analyse des fichiers malveillants.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : Hacker News
