Além da identidade: gerenciando a empresa agêntica

No nosso mais recente relatório de segurança da SOTI, abordamos temas como velocidade, escala e identidade não humana: No cenário de ameaças agênticas, analisamos como a inteligência artificial agêntica está transformando os riscos empresariais. As principais conclusões mais recentes do relatório são: 

• O Protocolo de Contexto de Modelos (MCP) fornece as "mãos" necessárias para que a inteligência artificial agêntica execute ações em várias APIs, mas também confunde dados e código, o que pode permitir que servidores maliciosos sequestrem a lógica de modelos de linguagem de grande porte (LLM) por meio da injeção de prompts ou ataques entre servidores. 

• O navegador se tornou um lugar de ataque crítico e sem monitoramento: Mais de 40% dos usuários corporativos instalaram essas ferramentas e 25% dessas extensões alteraram permissões em um período de 12 meses.  

• Mais de 6% das conversas com chatbots de inteligência artificial em dispositivos corporativos contêm dados confidenciais.

• À medida que os sistemas baseados em inteligência artificial assumem um papel cada vez mais importante nos processos empresariais, as organizações precisam priorizar a visibilidade das interações entre máquinas e a autorização de APIs, ao mesmo tempo que implementam uma arquitetura Zero Trust para proteger as identidades das máquinas, as permissões dos agentes e as decisões autônomas.

Embora o MCP forneça aos agentes de IA acesso padrão a ferramentas e APIs externas, essa mesma conectividade perfeita abre novas portas para sistemas sensíveis. Cada serviço MCP pode definir permissões, dependências e instruções que determinam o que um agente pode acessar ou fazer.

As equipes de segurança devem considerar as conexões MCP como parte da superfície de ataque da empresa e manter a visibilidade sobre os serviços MCP, as ferramentas conectadas, as permissões e o comportamento durante a execução. Essa visibilidade pode ajudar a evitar que serviços não confiáveis ou comprometidos influenciem o comportamento do agente, acessem dados confidenciais ou executem ações não autorizadas.

A crescente autonomia exige que a segurança corporativa vá além dos controles de identidade tradicionais, abrangendo não apenas o que os agentes podem acessar, mas também como eles operam.

A segurança está evoluindo à medida que as organizações adotam sistemas de inteligência artificial capazes de operar com maior autonomia. Identidade e acesso são apenas uma parte da equação; gerenciar sistemas não humanos por meio de APIs também se tornou uma tarefa essencial.

À medida que os recursos de inteligência artificial de ponta, como o Projeto Glasswing, reduzem o tempo necessário para identificar vulnerabilidades em sistemas de semanas para horas, os ciclos de correção existentes podem ter dificuldade em acompanhar esse ritmo. As organizações precisam de proteções adaptativas e nativas de borda, com autonomia baseada em riscos, que permitam aos sistemas de IA realizar ações facilmente verificáveis e reversíveis, mantendo a supervisão humana para comportamentos de alto impacto ou anômalos.

Nem todos os riscos da inteligência artificial exigem a mesma resposta. As principais prioridades são as ameaças que combinam alto impacto nos negócios com a necessidade de intervenção rápida, como ataques de IA agêntica, descoberta de vulnerabilidades impulsionada por IA e injeção de prompts (Figura 1).

Com a proliferação de extensões e ferramentas de inteligência artificial não gerenciadas, a visibilidade baseada em navegadores também se tornou uma superfície crítica de ataque. Pesquisas indicam que as extensões de navegador baseadas em inteligência artificial têm 60% mais chances de apresentar vulnerabilidades conhecidas do que outras ferramentas, e quase metade dos usuários corporativos já instalou extensões de IA (Figura 2).

Para combater com eficácia as ameaças impulsionadas pela inteligência artificial, as equipes de segurança precisam ir além das regras estáticas e adotar um novo padrão de aplicação de medidas, que seja adaptável e capaz de controlar comportamentos e gerenciar a exposição de dados. Esta abordagem de segurança revisada é uma resposta à evolução do cenário da inteligência artificial (Figura 3).

A empresa agêntica já é uma realidade, e protegê-la exige novas estratégias. Embora alguns riscos da inteligência artificial estejam sendo avaliados e monitorados, muitas ameaças emergentes ainda são ignoradas. As organizações precisam avaliar e controlar rapidamente o que os agentes de IA, os serviços MCP, as extensões de navegador e as aplicações conectadas podem acessar e o que podem fazer em tempo real. 

O objetivo não é limitar o uso da inteligência artificial, mas sim regulamentá-lo. As empresas que combinam inovação em inteligência artificial com governança comportamental estarão mais preparadas para enfrentar o cenário atual de ameaças em constante evolução relacionadas à IA.

Você pode ler edições anteriores e acompanhar os próximos lançamentos dos renomados relatórios State of the Internet/Security da Akamai, mantendo-se atualizado com as mais recentes análises de inteligência contra ameaças, relatórios de segurança e pesquisas em cibersegurança.