Injection de prompt : quelles actions d’un agent IA faire valider ?
Perplexity a publié le 2 novembre 2026 l'analyse de son benchmark BrowseSafe++, construit à partir d'attaques repérées sur des pages réelles. Après plusieurs tentatives adaptées, les attaques réussissent sur au moins 79 % des tâches pour 5 des 7 agents testés. Le résultat concerne aussi les prestataires équipés d'agents IA.
Sommaire
- Ce que Perplexity a publié le 2 novembre
- Des attaques qui imitent un contenu ordinaire
- Les détecteurs repèrent la plupart des injections
- Injection de prompt : l’attaque répétée finit souvent par passer
- Les limites de l’expérience
- Où placer la validation humaine selon l’action de l’agent
- Ce que cela change pour vous
- Une validation humaine placée avant l’écriture
- Sources et références
- FAQ - Questions sur l'injection de prompt et les agents IA
Une injection de prompt consiste à cacher, dans une page Web, des instructions destinées à l’agent IA qui la lit. L’agent peut alors donner une réponse trompeuse, abandonner sa tâche ou exécuter une action que personne n’a demandée.
Le Secure Intelligence Institute de Perplexity a rassemblé ces attaques dans un benchmark public. L’analyse du 2 novembre détaille ce que les détecteurs arrêtent, puis ce qui passe quand l’attaquant insiste avec des tentatives répétées. Le jeu de données et le code sont publics.
Des agences SEO et des prestataires d’automatisation confient déjà à des agents la lecture de pages externes. Certains préparent ensuite des modifications sur le site d’un client.
Toute entreprise qui externalise ce type de tâche est donc concernée par ces résultats.
| En bref Après adaptation, les injections réussissent sur au moins 79 % des tâches pour 5 des 7 agents testés. Un détecteur spécialisé ralentit l’attaquant sans l’arrêter. La validation humaine reste nécessaire avant toute action qui modifie ou publie. |
Ce que Perplexity a publié le 2 novembre
BrowseSafe++ est en ligne depuis le 12 octobre, avec un article de recherche publié sur la plateforme arXiv. L’article du 2 novembre en présente l’analyse détaillée, sans annoncer de nouveau produit.
Les données viennent de Comet, le navigateur de Perplexity, dont l’agent lit des pages Web pour ses utilisateurs. Un classifieur déployé en production y a repéré des injections potentielles pendant 386 jours, du 1er septembre 2025 au 21 septembre 2026.
BrowseSafe++ en chiffres
| Indicateur | Valeur |
|---|---|
| Pages candidates collectées en production | 1 152 315 en 386 jours |
| Pages retenues comme injections | 58 036 |
| Paires de pages du benchmark (avec et sans injection) | 38 675 |
| Types d’attaques | 24 |
| Agents soumis aux attaques adaptatives | 7 |
| Tâches par agent | 1 024 |
| Tentatives maximales par tâche | 64 |
D’après Perplexity, site BrowseSafe++ et analyse du 2 novembre 2026. Collecte du 1er septembre 2025 au 21 septembre 2026.
Sur environ 1,15 million de pages candidates, 58 036 ont été retenues après un vote de trois modèles. Ce volume correspond donc à des signalements, pas à des attaques réussies. Les noms et les coordonnées ont été remplacés par des données fictives, l’injection restant telle qu’observée.
Des attaques qui imitent un contenu ordinaire
Chaque paire associe une page attaquée à sa version propre, sous quatre formes, dont le code HTML et la capture d’écran. Les injections récentes imitent un avis officiel du site ou une note sur les préférences de l’utilisateur. Le benchmark couvre 12 types de sites et 18 emplacements possibles dans la page.
Plus de 40 % des injections poussent l’agent vers une action non demandée, et environ un tiers cherchent à le détourner de sa tâche. La désinformation ne représente qu’environ 3 % des cas.
Plus de 23 000 injections proviennent de contenus que n’importe qui peut publier, comme des forums ou des documents partagés. Dans 24,4 % des paires, l’injection est rédigée dans une autre langue que la page, souvent l’anglais.
Les détecteurs repèrent la plupart des injections
Pour les repérer, Perplexity a conçu BrowseSafe-Guard. Il s’agit de deux petits modèles de 0,8 milliard de paramètres, l’un pour le texte, l’autre pour les captures d’écran. Sur les vues textuelles, ils atteignent un score F1 moyen de 94,84 %, le meilleur du comparatif publié.
Le détecteur textuel signale à tort 4,84 % des pages propres, soit environ une sur vingt. Il laisse passer 5,44 % des injections. Son coût avoisine 0,18 dollar pour 1 000 pages, contre 18,95 à 180,61 dollars pour les grands modèles interrogés par API. Sur les captures d’écran, le détecteur multimodal atteint un F1 d’environ 93 %, contre environ 79 % pour le meilleur autre modèle.
Repérer une injection ne suffit pourtant pas à l’écarter. Chaque modèle évalué a suivi des injections qu’il avait signalées, sur 1,64 % à 24,73 % des pages selon le modèle.
Injection de prompt : l’attaque répétée finit souvent par passer
Perplexity a soumis 7 agents à 1 024 tâches chacun. Les agents testés sont Claude Sonnet 5, Claude Haiku 4.5, GPT-5.5, Gemini 3.1 Pro, Gemini 3.5 Flash-Lite, DeepSeek V3.1 et Kimi K2. Après chaque échec, un modèle attaquant réécrit l’injection, dans la limite de 64 tentatives par tâche.
Au premier essai, 4 % des tâches au plus sont compromises. Après adaptation, les attaques réussissent sur au moins 79 % des tâches pour 5 des 7 agents. Les deux agents les plus résistants cèdent sur environ un tiers des tâches pour Claude Sonnet 5, et deux tiers pour GPT-5.5.
Le détecteur ralentit l’attaquant. Sur Gemini 3.5 Flash-Lite, il bloque 94,5 % des injections initiales. Le nombre moyen de tentatives nécessaires passe de 9,7 à 17. Au bout de 64 essais, le taux de réussite final atteint pourtant 84,2 % avec le détecteur, contre 93,6 % sans.
Les limites de l’expérience
Ces taux viennent d’un environnement contrôlé, où l’attaquant dispose de nombreuses tentatives et d’un retour sur ses échecs. Ils ne mesurent ni la fréquence des compromissions en entreprise ni les pertes financières.
Perplexity développe ses propres protections. Ses résultats dépendent aussi de réglages précis, comme le seuil de détection ou la conception de l’agent. L’anglais domine le jeu de données, avec 29 999 paires. L’analyse ne traite pas non plus des droits accordés à l’agent ni de la validation humaine de ses actions.
Où placer la validation humaine selon l’action de l’agent
Les chiffres de Perplexity plaident pour une défense en couches. Selon l’entreprise, aucun modèle de détection ne règle seul le problème. La grille suivante proportionne les contrôles au niveau d’action de l’agent, de la simple lecture jusqu’à la publication.
Quatre niveaux d’action pour un agent IA, quatre niveaux de contrôle
| Niveau d’action | Exemple dans une prestation | Contrôle proportionné |
|---|---|---|
| Lecture de pages externes | Veille concurrentielle, extraction de données | Détecteur d’injection, aucun droit d’écriture |
| Préparation | Brouillon d’article, proposition de balises | Relecture avant tout usage |
| Modification | Mise à jour d’une page dans le CMS | Validation humaine nommée, journal des actions |
| Publication ou envoi | Mise en ligne, e-mail à un client | Validation systématique, droits séparés |
Grille établie par la rédaction. Elle ne figure pas dans les travaux de Perplexity.
Le risque augmente quand un même agent lit des pages externes puis écrit dans un outil sensible. Séparer lecture et écriture, avec des droits distincts, limite l’effet d’une injection réussie. L’exemple des droits à donner à un agent IA dans WordPress montre cette séparation sur le site d’un client.
Ce que cela change pour vous
Les mesures utiles dépendent de la place des agents dans votre organisation.
Vous utilisez des agents IA dans vos opérations
Listez les actions que chaque agent exécute sans validation. Une lecture ou un brouillon peut rester automatique, alors qu’une modification de données passe par une personne nommée. La méthode pour définir les actions et les validations autorisées part du même principe.
Vous évaluez un prestataire d’automatisation
Demandez quels outils l’agent du prestataire utilise, quelles pages externes il lit et quelles actions il peut lancer seul. Dans une externalisation, le niveau de service précise aussi le traitement des incidents et le délai de suspension de l’agent.
Vous êtes agence SEO ou de contenu
Lire des pages concurrentes puis modifier un CMS cumule les deux risques. Gardez la publication sous validation humaine, et consignez chaque validation dans un journal partagé avec le client. Perplexity Computer permet de configurer ces validations pour les pages, les publicités et les e-mails. Ce journal facilite la discussion sur la responsabilité d’une erreur dans un workflow externalisé.
Une validation humaine placée avant l’écriture
BrowseSafe++ mesure un risque en laboratoire, sans en donner la fréquence réelle. Pour votre entreprise, la décision consiste à réserver toute action d’écriture à une validation humaine quand l’agent a lu des pages externes. La supervision externalisée de la cybersécurité complète ce dispositif pour les incidents.
Sources et références
Cet article s’appuie notamment sur l’analyse BrowseSafe++ publiée par Perplexity le 2 novembre 2026, le site du benchmark BrowseSafe++, la présentation de la collecte et des usages prévus du benchmark, l’article de recherche BrowseSafe++ publié sur arXiv, le kit de développement publié sur GitHub, le jeu de données publié sur Hugging Face et l’article de recherche sur le premier benchmark BrowseSafe.
FAQ - Questions sur l'injection de prompt et les agents IA
Qu'est-ce qu'une injection de prompt ?
Il s'agit d'une instruction malveillante placée dans un contenu que lit un agent IA, par exemple une page Web. Elle cherche à détourner l'agent de la tâche fixée par son utilisateur.
Quels résultats Perplexity a-t-il obtenus avec BrowseSafe++ ?
Au premier essai, les attaques réussissent sur 4 % des tâches au plus. Après adaptation, elles réussissent sur au moins 79 % des tâches pour 5 des 7 agents, dans un environnement de test.
Un détecteur d'injection suffit-il à protéger un agent IA ?
Le détecteur BrowseSafe-Guard de Perplexity obtient un score F1 moyen de 94,84 %. Sur Gemini 3.5 Flash-Lite, les attaques répétées réussissent pourtant dans 84,2 % des cas avec le détecteur, contre 93,6 % sans.
Quelles actions d'un agent IA faut-il faire valider ?
Les actions qui modifient un site, publient un contenu ou envoient un message engagent l'entreprise. Elles relèvent d'une validation humaine nommée, surtout après la lecture de pages externes.
Que demander à un prestataire qui utilise des agents IA ?
Demandez la liste des actions que l'agent exécute seul. Le contrat précise aussi les droits d'accès de l'agent et le traitement des incidents.
La lettre ExternFlow
Chaque semaine, une sélection d’analyses sur le BPO, l’externalisation et le SEO, pensée pour les décideurs. Pas de publicité, pas de revente d’adresse.
Cet article vous a été utile ?
Ajoutez ExternFlow à vos sources préférées sur GooglePar Setraniaina Andrianajason
Je suis Setraniaina, fondateur de LAPLUME.MG et consultant SEO/GEO indépendant via Red Island SEO, depuis Madagascar. Passionné de nouvelles technologies, d'IA et de marketing digital, je partage sur ExternFlow mes analyses sur l'externalisation, le BPO et le référencement.
