Más allá de la identidad: controlar la empresa agéntica

En nuestro último informe sobre seguridad SOTI, Velocidad, escala e identidad no humana: el panorama de amenazas agénticas, examinamos cómo la IA agéntica está cambiando el riesgo empresarial. Entre las conclusiones clave más recientes del informe se incluyen: 

• El Model Context Protocol (MCP) proporciona las “manos” para que la IA agéntica ejecute acciones en las API, pero también desenfoca los datos y el código, lo que puede permitir a los servidores maliciosos secuestrar la lógica de los modelos de lenguaje de gran tamaño (LLM) mediante una inyección de prompts o ataques entre servidores. 

• El navegador se ha convertido en una superficie de ataque crítica y sin supervisión: más del 40 % de los usuarios empresariales han instalado estas herramientas y el 25 % de las extensiones instaladas han alterado los permisos en un plazo de 12 meses.  

• Más del 6 % de las conversaciones de chatbots de IA en dispositivos empresariales contienen datos confidenciales.

• A medida que los sistemas basados en IA asumen una mayor responsabilidad en los flujos de trabajo empresariales, las organizaciones deben priorizar la visibilidad de la actividad de máquina a máquina y la autorización de API, al tiempo que aplican la arquitectura Zero Trust para proteger las identidades de las máquinas, los permisos de los agentes y las decisiones autónomas.

Aunque MCP ofrece a los agentes de IA acceso estándar a herramientas y API externas, esa misma conectividad fluida abre nuevas puertas de acceso a los sistemas confidenciales. Cada servicio MCP puede introducir permisos, dependencias e instrucciones que dan forma a lo que un agente puede hacer o a dónde puede acceder.

Los equipos de seguridad deben tratar las conexiones MCP como parte de la superficie de ataque de la empresa y mantener la visibilidad de los servicios MCP, las herramientas conectadas, los permisos y el comportamiento del tiempo de ejecución. Esta visibilidad puede ayudar a evitar que los servicios que no son de confianza o que se vean comprometidos influyan en el comportamiento de los agentes, lleguen a datos confidenciales o activen acciones no autorizadas.

Una autonomía cada vez mayor implica que la seguridad empresarial debe ir más allá de los controles de identidad tradicionales para controlar no solo a qué pueden acceder los agentes, sino también cómo funcionan.

La seguridad está evolucionando a medida que las organizaciones adoptan sistemas de IA que pueden actuar con mayor autonomía. La identidad y el acceso son solo una parte de la ecuación; controlar los sistemas no humanos en todas las API es ahora igual de importante.

A medida que las capacidades de la IA fronteriza, incluido el Proyecto Glasswing, reducen el tiempo necesario para detectar las debilidades del sistema de semanas a horas, los ciclos de aplicación de parches existentes pueden tener dificultades para mantenerse al día. Las organizaciones necesitan protecciones de tiempo de ejecución nativas del Edge adaptativas y autonomía basada en el riesgo, que permitan a los sistemas de IA tomar medidas fáciles de verificar y revertir, al tiempo que se mantiene la supervisión humana de comportamientos anómalos o de alto impacto.

No todos los riesgos de la IA exigen la misma respuesta. Las principales prioridades son las amenazas que combinan un alto impacto empresarial con la necesidad de una intervención rápida, como los ataques de IA agéntica, la detección de vulnerabilidades impulsada por la IA y la inyección de prompts (Figura 1).

Con la proliferación de herramientas y extensiones de IA no gestionadas, la visibilidad basada en navegador también se ha convertido en una superficie de ataque crítica. Las investigaciones indican que las extensiones de navegador de IA tienen un 60 % más de probabilidades de tener vulnerabilidades conocidas que otras herramientas, y casi la mitad de todos los usuarios empresariales han instalado extensiones de IA (Figura 2).

Para contrarrestar de forma eficaz las amenazas basadas en IA mediante el control del comportamiento y la gestión de la exposición de los datos, los equipos de seguridad deben ir más allá de las reglas estáticas y adoptar un nuevo estándar de aplicación adaptable. Este enfoque de seguridad revisado responde a un panorama de la IA en constante evolución (Figura 3).

La empresa agéntica ya está aquí, y protegerla requiere nuevas estrategias. Aunque algunos riesgos de la IA se están evaluando y supervisando, muchas amenazas emergentes de la IA siguen pasándose por alto. Las organizaciones necesitan evaluar rápidamente y controlar a qué pueden acceder los agentes de IA, los servicios MCP, las extensiones del navegador y las aplicaciones conectadas, así como lo que pueden hacer en tiempo real. 

El objetivo no es limitar la adopción de la IA, sino controlarla. Las empresas que combinan la innovación de la IA con el control del comportamiento estarán mejor preparadas para gestionar el panorama de amenazas en constante evolución de la IA de hoy en día.

Puede volver a leer las publicaciones y estar atento a los próximos lanzamientos de los aclamados informes sobre el estado de Internet y la seguridad de Akamai, así como mantenerse al día con los análisis de inteligencia contra ciberamenazas, informes de seguridad e investigación sobre ciberseguridad más recientes.