IA fantôme, agents non autorisés et fuites de données : rapport spécial sur les risques liés à l'IA et comment les maîtriser

Les entreprises adhèrent désormais pleinement à l'IA. Si l'utilisation de l'intelligence artificielle (IA) était auparavant accueillie avec prudence, elle s'impose aujourd'hui progressivement comme un impératif pour la plupart des entreprises. Il en résulte une multiplication des assistants, des agents, des navigateurs, des extensions et des flux de travail autonomes liés à l'IA dans tous les domaines de l'entreprise : rédaction de code, génération de contenu, analyse de contrats, automatisation des tâches, et plus encore.

Si ces outils d'IA deviennent rapidement des moteurs essentiels de productivité, ils contribuent également, de façon plus discrète, à élargir les surfaces d'attaque des entreprises. L'usage de l'IA augmente, et cette généralisation s'accompagne de nouveaux types de risques auxquelles les outils de sécurité traditionnels ne sont pas préparés. Les responsables de la sécurité peinent à déterminer où sont envoyées leurs données, qui y a accès et comment sécuriser ces systèmes tiers.

La plupart des entreprises concentrent leurs efforts de gouvernance sur les plateformes d'IA les plus courantes, telles que ChatGPT, Microsoft Copilot et Google Gemini. Toutefois, les employés utilisent de plus en plus d'applications ou d'abonnements qui échappent au contrôle de l'entreprise. Cette situation crée un important déficit de visibilité sur les conditions de stockage, de conservation et de traitement des données professionnelles.

D'après les données de LayerX, près de la moitié des conversations avec des outils d'IA en entreprise (47,11 %) sont réalisées via des identités personnelles plutôt qu'au moyen de comptes gérés par l'entreprise, ce qui constitue une lacune majeure en matière de gouvernance. Par ailleurs, plus de 14 % des conversations avec des outils d'IA en entreprise impliquent des abonnements personnels « freemium ». Cette pratique expose les données aux grands modèles de langage (LLM) pour l'entraînement de modèles accessibles au public.

L'exemple de l'entreprise chinoise DeepSeek spécialisée dans l'IA illustre la vitesse à laquelle une adoption massive peut contourner des mécanismes pourtant essentiels de protection des données. Ce phénomène souligne l'importance de disposer d'une visibilité continue sur les applications d'IA que les collaborateurs adoptent de leur propre initiative.

L'IA transforme radicalement l'approche de la prévention des pertes de données (DLP). Les transferts d'informations ne sont plus limités à des canaux clairement définis et protégés, tels que les messageries électroniques, les transferts de fichiers et le stockage dans le cloud. Avec l'IA, des informations sensibles peuvent être communiquées au travers de prompts, de conversations, d'extraits de code, de textes copiés ou d'autres formes de contenus non structurés.

Si chaque interaction prise individuellement peut sembler anodine, leur accumulation peut conduire à l'exposition de contexte métier précieux, ce que les mécanismes DLP traditionnels ne sont pas conçus pour détecter.

Par exemple, ce rapport État des lieux d'Internet étudie le cas récent d'un responsable gouvernemental américain qui a divulgué par inadvertance des données opérationnelles sensibles et confidentielles de la Cybersecurity and Infrastructure Security Agency (CISA) via une infrastructure d'IA publique.

Les employés passent de plus en plus par des extensions de navigateur pour utiliser l'IA directement dans le navigateur. Ces extensions disposent souvent d'un accès étendu aux contenus Web, à l'activité des utilisateurs, à leurs identifiants ainsi qu'aux applications de l'entreprise.

Les recherches de LayerX ont révélé que près de 75 % des extensions d'IA pour navigateurs demandent des autorisations élevées ou critiques. Cette pratique peut créer un canal d'accès non contrôlé aux données sensibles via l'IA, offrant ainsi une cible de choix aux acteurs malveillants. L'étude a également montré que de nombreuses extensions d'IA présentent des vulnérabilités et expositions communes (CVE) connues.

Prenons l'exemple de CursorJacking, une faille de sécurité discrète qui vise les développeurs utilisant Cursor, un assistant de codage basé sur l'IA très prisé dans le secteur. Une simple extension de navigateur non contrôlée suffit pour qu'un attaquant puisse dérober furtivement les clés d'API de Cursor, usurper l'identité d'un développeur et compromettre l'ensemble de l'environnement de développement basé sur l'IA.

L'adoption rapide des agents d'IA autonomes, associée à l'émergence des navigateurs dotés de l'IA et des interfaces utilisateur agentiques, a créé une nouvelle catégorie de risque. Plus ces agents s'intègrent aux opérations quotidiennes et aux flux de données sensibles, plus ils agissent comme des membres autonomes de l'équipe, capables de prendre des décisions avec très peu de supervision humaine.

Le CometJacking, une nouvelle technique d'attaque ciblant le navigateur Comet basé sur l'IA de Perplexity, illustre parfaitement l'ampleur de la menace. Les chercheurs de LayerX ont démontré qu'en intégrant des instructions malveillantes dans une page Web, un attaquant pouvait manipuler l'agent d'IA du navigateur au moyen d'une attaque indirecte par injection de prompts, ce qui lui permet alors d'accéder à des données et d'exécuter des actions non autorisées en toute liberté.

Ce rapport État des lieux d'Internet souligne la nécessité pour les entreprises de répondre aux défis posés par ce nouvel écosystème de l'IA, fragmenté et en constante évolution, en mettant en place une gouvernance stricte qui couvrent les flux de données, les identités, les extensions et les agents autonomes.

Pour accompagner cette démarche, notre rapport fournit :

• un cadre pratique d'atténuation des risques, éprouvé sur le terrain ; et
• une liste de recommandations concrètes à destination des RSSI et des responsables de la sécurité.

Avec des cadres de sécurité adaptés, les entreprises peuvent exploiter tout le potentiel de l'IA sans s'exposer à de nouveaux risques.