COMPRENDRE LES RISQUES
Glossaire des menaces IA
Trouvez la menace IA qui vous concerne et découvrez la réponse adaptée : l’attaque type, la parade de référence, les outils libres et ce que couvre AI Guard.
Tableau des menaces
77 menaces affichées sur 77
| Menace | Aperçu | Attaque type · conséquence | AI Guard |
|---|---|---|---|
| Prompts & instructions 9 | |||
| LLM01:2025 | Un utilisateur demande au modèle d’ignorer les règles du développeur ou du système. | ConseilRéponse sur mesure | |
| LLM01:2025 | Une consigne malveillante est cachée dans une page web, un e-mail, un PDF, un enregistrement de base ou un document RAG. | SaaSPrêt à installer | |
| LLM01:2025 | Un texte malveillant stocké en mémoire ou dans une base vectorielle influence les sessions suivantes. | ConseilRéponse sur mesure | |
| LLM01:2025 | Des prompts adverses contournent les protections du modèle. | ConseilRéponse sur mesure | |
| LLM07:2025 | Le modèle est amené à révéler ses instructions cachées ou sa configuration. | ConseilRéponse sur mesure | |
| LLM01:2025 | Un contenu moins fiable prend le pas sur les instructions de confiance. | ConseilRéponse sur mesure | |
| LLM01:2025 | Base64, Unicode, homoglyphes, ROT ou caractères invisibles déjouent les filtres. | ConseilRéponse sur mesure | |
| LLM01:2025 | L’attaque est formulée dans une langue peu dotée pour échapper aux filtres de sécurité. | ConseilRéponse sur mesure | |
| LLM01:2025 | Des instructions sont cachées dans une image, un son ou une vidéo. | ConseilRéponse sur mesure | |
| Agents 11 | |||
| LLM06:2025 | L’agent dispose de plus de droits que sa tâche n’en exige. | SaaSPrêt à installer | |
| LLM06:2025 | Un prompt pousse le modèle à appeler des fonctions dangereuses. | SaaSPrêt à installer | |
| LLM06:2025 | L’IA met son autorité légitime au service d’un attaquant. | SaaSPrêt à installer | |
| LLM06:2025 | L’agent atteint des API d’administration, des fichiers ou des ressources cloud. | SaaSPrêt à installer | |
| LLM06:2025 | L’IA envoie un e-mail ou de l’argent, supprime des données ou modifie l’infrastructure. | SaaSPrêt à installer | |
| LLM10:2025 | Un agent récursif consomme des ressources ou répète ses actions sans fin. | ConseilRéponse sur mesure | |
| LLM01:2025 | Un agent compromis transmet des instructions malveillantes à un autre agent. | ConseilRéponse sur mesure | |
| Un attaquant implante de faux souvenirs ou des consignes malveillantes dans la mémoire longue de l’agent. | ConseilRéponse sur mesure | ||
| LLM03:2025 | Un serveur d’outils cache des consignes dans sa description, ou la modifie discrètement après validation. | SaaSPrêt à installer | |
| L’agent emprunte les accès d’une personne ; après coup, rien ne distingue ce qu’il a fait de ce qu’elle a fait. | SaaSPrêt à installer | ||
| Un agent en appelle un autre, qui en appelle un troisième ; plus personne ne vérifie au nom de qui agit le dernier. | ConseilRéponse sur mesure | ||
| RAG 5 | |||
| LLM08:2025 | Un attaquant dépose des documents malveillants que l’IA ira ensuite chercher. | ConseilRéponse sur mesure | |
| LLM08:2025 | Des embeddings ou des contenus altérés faussent la recherche. | ConseilRéponse sur mesure | |
| LLM08:2025 | Des informations sensibles sont reconstituées à partir des embeddings. | ConseilRéponse sur mesure | |
| LLM08:2025 | Un utilisateur obtient des documents qu’il n’a pas le droit de consulter. | ConseilRéponse sur mesure | |
| LLM08:2025 | Le client A récupère les données du client B. | ConseilRéponse sur mesure | |
| Modèle & entraînement 9 | |||
| LLM04:2025 | Un attaquant injecte des échantillons manipulés dans les données d’entraînement. | ConseilRéponse sur mesure | |
| LLM04:2025 | Des exemples malveillants modifient délibérément le comportement du modèle. | ConseilRéponse sur mesure | |
| LLM04:2025 | Un déclencheur caché active un comportement malveillant. | ConseilRéponse sur mesure | |
| LLM03:2025 | Le modèle ou son code est modifié avant le déploiement. | ConseilRéponse sur mesure | |
| LLM03:2025 | Un modèle pickle ou PyTorch exécute du code au chargement. | ConseilRéponse sur mesure | |
| Un attaquant dérobe les poids du modèle sur disque ou dans le cloud. | ConseilRéponse sur mesure | ||
| LLM10:2025 | Des requêtes répétées permettent d’approcher un modèle propriétaire. | ConseilRéponse sur mesure | |
| Des propriétés ou des exemples sont retrouvés à partir des sorties du modèle. | ConseilRéponse sur mesure | ||
| Un attaquant détermine si les données d’une personne ont servi à l’entraînement. | ConseilRéponse sur mesure | ||
| Attaques adverses 4 | |||
| Une infime perturbation de l’entrée change la classification. | ConseilRéponse sur mesure | ||
| Un autocollant, un patch ou un panneau trompe une caméra ou un modèle. | ConseilRéponse sur mesure | ||
| Un motif ajouté à l’image renverse la décision d’un détecteur ou d’un classifieur. | ConseilRéponse sur mesure | ||
| Une attaque conçue contre un modèle fonctionne aussi sur un autre. | ConseilRéponse sur mesure | ||
| Sorties 7 | |||
| LLM05:2025 | La sortie de l’IA devient directement du SQL, du HTML ou une commande shell. | ConseilRéponse sur mesure | |
| LLM05:2025 | Du code ou des commandes générés par l’IA partent sans relecture suffisante et introduisent une faille. | ConseilRéponse sur mesure | |
| LLM05:2025 | Le SQL généré par le modèle embarque la saisie de l’attaquant. | ConseilRéponse sur mesure | |
| LLM05:2025 | L’IA génère et exécute des commandes shell. | ConseilRéponse sur mesure | |
| LLM05:2025 | Le HTML ou le Markdown généré contient du JavaScript malveillant. | ConseilRéponse sur mesure | |
| Un navigateur ou un outil de l’IA atteint des adresses internes ou le service de métadonnées cloud. | ConseilRéponse sur mesure | ||
| Un nom de fichier produit par l’agent atteint un fichier non prévu. | ConseilRéponse sur mesure | ||
| Confidentialité 5 | |||
| LLM02:2025 | L’IA divulgue des données personnelles, des identifiants ou des secrets. | ConseilRéponse sur mesure | |
| LLM02:2025 | Des prompts et des secrets finissent stockés dans les outils d’observabilité ou de traces. | SaaSPrêt à installer | |
| LLM02:2025 | Des utilisateurs collent des clés d’API, des mots de passe ou du code source dans un prompt. | SaaSPrêt à installer | |
| LLM02:2025 | Le modèle recrache des exemples confidentiels vus à l’entraînement. | ConseilRéponse sur mesure | |
| LLM02:2025 | L’IA déduit des attributs qui n’ont jamais été communiqués. | ConseilRéponse sur mesure | |
| Chaîne d’approvisionnement 5 | |||
| LLM03:2025 | Un modèle malveillant est publié sur un hub de modèles. | ConseilRéponse sur mesure | |
| LLM03:2025 | Une dépendance Python ou npm malveillante atteint la pile IA. | ConseilRéponse sur mesure | |
| LLM03:2025 | Un attaquant publie une bibliothèque IA au nom presque identique. | ConseilRéponse sur mesure | |
| LLM03:2025 | PyTorch, une bibliothèque ou la chaîne d’outils sont altérés. | ConseilRéponse sur mesure | |
| LLM03:2025 | Un format de type pickle embarque une charge exécutable. | ConseilRéponse sur mesure | |
| Infrastructure 5 | |||
| Un notebook compromis expose des identifiants cloud. | ConseilRéponse sur mesure | ||
| Une clé fuit par le code, les journaux ou le modèle. | ConseilRéponse sur mesure | ||
| Une vulnérabilité de la pile de service du modèle est exploitée. | ConseilRéponse sur mesure | ||
| Un modèle ou du code malveillant s’échappe de son bac à sable. | ConseilRéponse sur mesure | ||
| Un serveur Jupyter permet d’exécuter du code arbitraire. | ConseilRéponse sur mesure | ||
| Disponibilité & coûts 4 | |||
| LLM10:2025 | Des prompts extrêmement coûteux saturent le modèle. | ConseilRéponse sur mesure | |
| LLM10:2025 | Un attaquant fait délibérément exploser la facture d’API ou de cloud. | ConseilRéponse sur mesure | |
| LLM10:2025 | Des entrées sont conçues pour maximiser la charge d’inférence. | ConseilRéponse sur mesure | |
| LLM10:2025 | Des tâches malveillantes accaparent tous les accélérateurs. | ConseilRéponse sur mesure | |
| Intégrité & confiance 3 | |||
| LLM09:2025 | Un attaquant compte sur la confiance accordée à une information inventée. | ConseilRéponse sur mesure | |
| LLM09:2025 | Le modèle invente des URL ou des sources. | ConseilRéponse sur mesure | |
| Un attaquant modifie une source d’information qui fait autorité. | ConseilRéponse sur mesure | ||
| Abus humains 5 | |||
| L’IA produit à grande échelle une ingénierie sociale personnalisée. | ConseilRéponse sur mesure | ||
| Un faux audio ou une fausse vidéo sert à frauder ou à contourner une authentification. | ConseilRéponse sur mesure | ||
| Une voix de synthèse imite un collaborateur ou un proche. | ConseilRéponse sur mesure | ||
| L’IA réduit l’effort nécessaire pour écrire ou modifier du code malveillant. | ConseilRéponse sur mesure | ||
| L’IA accélère la reconnaissance et l’exploitation. | ConseilRéponse sur mesure | ||
| Gouvernance 5 | |||
| Des collaborateurs envoient des données de l’entreprise vers des outils IA non autorisés. | ConseilRéponse sur mesure | ||
| LLM03:2025 | L’organisation ignore l’origine, les données ou la version de ses modèles. | ConseilRéponse sur mesure | |
| Les vulnérabilités ne sont découvertes qu’après le déploiement. | ConseilRéponse sur mesure | ||
| Une nouvelle version du modèle ou du prompt réintroduit des vulnérabilités. | ConseilRéponse sur mesure | ||
| Personne ne peut prouver après coup ce que l’agent a fait, pourquoi, ni qui l’a approuvé ; les journaux sont réécrivables. | SaaSPrêt à installer | ||
La colonne AI Guard décrit le POC tel qu’il est livré, pas une promesse : seul « Couvert » signifie que l’action n’a pas lieu. Les outils cités sont libres ou open source, à titre indicatif.