Le risque lié à l'IA est un risque applicatif, car les modèles d'IA n'existent pas de manière isolée et sont profondément intégrés à des écosystèmes applicatifs complexes.
Points à retenir
-
Les risques liés à l'IA sont des risques liés aux applications.
-
Désormais, les agents d'IA interrogent des bases de données et déclenchent des flux de travail, ce qui entraîne des risques allant de l'octroi de remises non autorisées à l'effacement de bases de données de production.
-
Quatre types de menace visent spécifiquement les applications d'IA.
-
Les attaques par injection de prompts, les réponses toxiques, les fuites de données sensibles et les attaques par déni de service ciblant l'IA mettent en péril les revenus, la réputation et les données de l'entreprise.
-
Les attaques conversationnelles peuvent contourner les mécanismes classiques de prévention des pertes de données.
-
Des requêtes à faible intensité et espacées dans le temps permettent d'extraire des données propriétaires sous forme de langage naturel, sans déclencher les alertes volumétriques traditionnelles.
-
Une approche multicouche de la sécurité des applications d'IA protège l'ensemble du patrimoine applicatif.
-
Akamai intègre une protection de l'IA en phase d'exécution aux solutions existantes WAAP et de gestion des bots, ce qui évite les projets coûteux de remplacement.
Foire aux questions (FAQ)
Foire aux questions (FAQ)
Les quatre principales catégories de menace sont l'injection de prompts et les techniques de contournement des garde-fous (jailbreaking), les réponses toxiques et les risques pour la réputation de la marque, l'exfiltration de données et les fuites de données sensibles, ainsi que l'épuisement des ressources et les attaques par déni de service ciblant l'IA.
L'injection de prompts manipule les applications d'IA en introduisant des instructions malveillantes en langage naturel dans les requêtes, afin d'amener le modèle à ignorer ses garde-fous et à dévier de son comportement prévu.
Les solutions traditionnelles de prévention des pertes de données ne sont pas conçues pour ce type de menace, car les informations divulguées sont transformées en réponses conversationnelles en langage naturel plutôt qu'en transferts structurés de documents.
Selon l'Étude 2026 des impacts sur la sécurité des API, les incidents liés aux API coûtent en moyenne 700 000 $ aux grandes entreprises.
Les attaques DoS traditionnelles saturent les infrastructures réseau en générant un volume massif de trafic. À l'inverse, les attaques DoS ciblant l'IA exploitent le coût de calcul disproportionné de l'inférence des modèles afin d'épuiser la mémoire GPU et les ressources de calcul au moyen de prompts volontairement complexes.
Les bots automatisés représentent 42 % du trafic Web total, dont près des deux tiers sont considérés comme du trafic malveillant lié à l'extraction automatisée (scraping), aux abus ou aux attaques.
Les quatre couches de protection sont la protection des applications Web et des API (WAAP) avec App & API Protector, API Security, la protection contre les bots et les abus (Bot & Agent Control) et la protection de l'IA en phase d'exécution (Firewall for AI).