IA en la sombra, agentes no autorizados y filtraciones de datos: informe especial sobre cómo afrontar el riesgo de la IA

Las empresas está apostando todo a la IA. Aunque inicialmente el uso de la inteligencia artificial (IA) se contemplaba con ciertas reticencias, ahora se está convirtiendo en algo esencial para la mayoría de las empresas. Como resultado, hay existe un amplio conjunto de asistentes de IA, agentes, navegadores y extensiones, así como flujos de trabajo autónomos para cualquier ámbito de la empresa, desde la escritura de código y la generación de contenido hasta el análisis de contratos y la automatización de tareas.

Si bien estas herramientas de IA están mejorando cada vez más la productividad, también están aumentando de forma no tan perceptible las superficies de amenazas de las organizaciones. Conforme aumenta el uso de la IA, se generan nuevas categorías de riesgos para las que las herramientas de seguridad tradicionales no están preparadas. Los responsables de seguridad tienen dificultades para saber hacia dónde van sus datos, quién tiene acceso a ellos y cómo proteger esos sistemas de terceros.

La mayoría de las organizaciones centran sus esfuerzos en plataformas de IA de uso habitual, como ChatGPT, Microsoft Copilot y Google Gemini. Sin embargo, los empleados utilizan cada vez más aplicaciones o suscripciones a servicios de IA no sometidas a ningún tipo de supervisión corporativa, creando una brecha de visibilidad importante sobre los métodos de almacenamiento, conservación y tratamiento de los datos empresariales.

Según los datos de LayerX, casi la mitad de las conversaciones de IA empresarial (47,11 %) se llevan a cabo a través de cuentas personales en lugar de a través de cuentas gestionadas por la empresa, lo que genera una importante brecha de visibilidad en el control. Y más del 14 % de las conversaciones de IA empresariales se realizaban a través de suscripciones de IA personales “freemium”, que exponen los datos a modelos de lenguaje de gran tamaño (LLM) para el entrenamiento de modelos públicos.

El ejemplo de la empresa china de IA DeepSeek es una muestra de cómo la adopción explosiva de usuarios puede conseguir evitar los controles esenciales de seguridad de los datos. Esto pone de relieve la necesidad de poder disfrutar de una visibilidad continua de las aplicaciones de IA que los empleados usan de forma independiente.

La IA, en esencia, cambia la ecuación de la prevención de pérdida de datos (DLP). La transferencia de información ya no queda limitada a canales claramente definidos y que cuentan con la protección adecuada, como el correo electrónico, las transferencias de archivos y el almacenamiento en la nube. Con la IA, la información confidencial se puede compartir a través de indicaciones, conversaciones, fragmentos de código, texto copiado y otros formularios no estructurados.

Aunque las interacciones individuales pueden parecer inofensivas, en realidad pueden exponer colectivamente un contexto empresarial valioso que los controles de DLP heredados, por su naturaleza, no pueden detectar.

Por ejemplo, en este informe SOTI se destaca el caso reciente de un funcionario del gobierno de EE. UU. que publicó accidentalmente datos operativos confidenciales y restringidos de la Agencia de Seguridad de Infraestructura y Ciberseguridad (CISA) a través de una infraestructura de IA pública.

Los empleados acceden cada vez más a la IA a través de extensiones de navegador que funcionan directamente dentro del navegador. Estas extensiones suelen permitir un acceso generalizado al contenido web, a la actividad del usuario, a las credenciales y a las aplicaciones empresariales.

La investigación de LayerX reveló que casi el 75 % de las extensiones de navegadores de IA solicitan permisos altos o críticos, lo que puede crear un canal de acceso no gestionado de la IA a datos confidenciales, un objetivo más que apetitoso para los atacantes. La investigación también detectó que muchas extensiones de IA incluyen vulnerabilidades y exposiciones comunes (CVE) conocidas.

Por ejemplo, CursorJacking, un defecto de seguridad escurridizo con el punto de mira en aquellos desarrolladores que utilizan el conocido asistente de programación basado en IA Cursor. Lo único que se necesita es una extensión de navegador no autorizada para que un atacante acceda de forma oculta a las claves de API de Cursor, suplante a un desarrollador y ponga en peligro todo el entorno de desarrollo basado en IA.

El rápido aumento del uso de agentes de IA autónomos, junto con navegadores de IA e interfaces de usuario agénticas, ha hecho que surja otra nueva dimensión de riesgo. Cuanto más integrados estén estos agentes en las operaciones diarias y en los flujos de datos confidenciales, más actuarán como miembros del equipo que trabajan de forma independiente, tomando decisiones con muy poca supervisión humana.

Una nueva técnica llamada CometJacking, cuyo objetivo es el navegador de IA Comet de Perplexity, es un buen ejemplo de la amenaza. Los investigadores de LayerX demostraron que, al integrar instrucciones maliciosas en una página web, un atacante podía manipular el agente de IA del navegador mediante un ataque indirecto de inyección de instrucciones, lo que le daba rienda suelta para acceder a los datos y realizar acciones no autorizadas.

En este informe sobre el estado de Internet (SOTI) en material de seguridad se enfatiza la necesidad de que las organizaciones cumplan el reto de este nuevo ecosistema de IA fragmentado mediante la introducción de un estricto control de IA sobre los flujos de datos, las identidades, las extensiones y los agentes autónomos.

Para apoyar esta iniciativa, nuestro informe proporciona:

• Un marco de mitigación práctico y probado sobre el terreno.
• Una lista de comprobación práctica de recomendaciones para los directores de seguridad de la información y los responsable de seguridad.

Con los marcos de seguridad adecuados, las organizaciones pueden aprovechar todo el potencial de la IA sin quedar expuestas a los nuevos riesgos.