IA sombra, agentes maliciosos e vazamentos de dados: um relatório especial sobre como navegar pelo risco da IA

A IA está em todas as empresas. Embora o uso da inteligência artificial (IA) já tenha sido visto com cautela, hoje ela se tornou uma necessidade para a maioria das empresas. O resultado é um vasto ecossistema de assistentes de IA, agentes, navegadores, extensões e fluxos de trabalho autônomos que abrangem todas as áreas da empresa — desde a escrita de código e a geração de conteúdo até a análise de contratos e a automação de tarefas.

Embora essas ferramentas de inteligência artificial estejam se tornando rapidamente essenciais para aumentar a produtividade, elas também estão ampliando silenciosamente a superfície de risco das organizações. À medida que o uso da inteligência artificial aumenta, surgem novos tipos de riscos que as ferramentas de segurança tradicionais não foram projetadas para enfrentar. Os líderes de segurança estão enfrentando dificuldades para entender para onde seus dados estão indo, quem tem acesso a eles e como proteger esses sistemas de terceiros.

A maioria das organizações concentra seus esforços de governança em plataformas de IA amplamente utilizadas, como ChatGPT, Microsoft Copilot e Google Gemini. Mas os funcionários estão recorrendo cada vez mais a aplicações ou assinaturas de inteligência artificial que operam sem qualquer supervisão corporativa. Isso cria uma lacuna significativa de visibilidade em relação à forma como os dados empresariais são armazenados, mantidos e processados.

De acordo com dados da LayerX, quase metade das conversas corporativas sobre inteligência artificial (47,11%) ocorre por meio de identidades pessoais, e não por meio de contas gerenciadas pela empresa, o que gera uma grande lacuna de visibilidade em termos de governança. E mais de 14% das conversas corporativas sobre inteligência artificial envolviam assinaturas pessoais de IA do tipo "freemium", o que expõe dados a grandes modelos de linguagem (LLMs) para treinamento público.

O exemplo da empresa chinesa de inteligência artificial DeepSeek mostra como a adoção em massa por parte dos usuários pode superar até mesmo os controles mais rigorosos de segurança de dados. Isso evidencia a necessidade de monitorar continuamente as aplicações de IA que os funcionários adotam por conta própria.

A inteligência artificial muda radicalmente a forma como a prevenção de perda de dados (DLP) é abordada. A transferência de informações já não se limita a canais bem definidos e protegidos, como e-mail, transferência de arquivos e armazenamento em nuvem. Com a inteligência artificial, informações confidenciais podem ser compartilhadas por meio de prompts, conversas, trechos de código, textos copiados e outras formas não estruturadas.

Embora interações individuais possam parecer inofensivas, quando somadas, elas podem expor informações valiosas sobre o contexto empresarial, algo que os sistemas tradicionais de DLP não foram projetados para detectar.

Por exemplo, este relatório SOTI destaca o caso recente de um funcionário do governo dos Estados Unidos que divulgou acidentalmente dados operacionais confidenciais e restritos da Agência de Segurança Cibernética e de Infraestrutura (CISA) por meio de uma infraestrutura pública de inteligência artificial.

Os funcionários estão cada vez mais utilizando a inteligência artificial por meio de extensões de navegador que funcionam diretamente dentro do navegador. Essas extensões de navegador geralmente têm acesso amplo ao conteúdo da web, à atividade do usuário, às credenciais e às aplicações corporativas.

Uma pesquisa da LayerX revelou que quase 75% das extensões de navegador baseadas em inteligência artificial solicitam permissões de alto nível ou críticas. Isso pode criar um canal que permite o acesso não controlado de sistemas de IA a dados confidenciais, tornando-se um alvo atraente para pessoas mal-intencionadas. A pesquisa também revelou que muitas extensões de inteligência artificial possuem vulnerabilidades e exposições comuns (CVEs) conhecidas.

Por exemplo, o CursorJacking é uma falha de segurança sorrateira que afeta desenvolvedores que utilizam o popular assistente de codificação baseado em IA, o Cursor. Basta uma extensão maliciosa no navegador para que um invasor roube silenciosamente as chaves da API do Cursor, se passe por um desenvolvedor e comprometa todo o ambiente de desenvolvimento baseado em IA.

O uso cada vez mais difundido de agentes de inteligência artificial autônomos, aliado aos navegadores de IA e às interfaces de usuário baseadas em agentes, criou uma nova dimensão de risco. Quanto mais esses agentes se integram às operações diárias e aos fluxos de dados confidenciais, mais eles passam a atuar como membros independentes da equipe, tomando decisões com pouquíssima supervisão humana.

Uma nova técnica chamada CometJacking, que ataca o navegador de inteligência artificial Comet da Perplexity, ilustra essa ameaça. Pesquisadores da LayerX demonstraram que, ao inserir instruções maliciosas em uma página da web, um invasor pode manipular o agente de inteligência artificial do navegador por meio de um ataque de injeção de comandos indiretos, obtendo assim acesso irrestrito a dados e a capacidade de realizar ações não autorizadas.

Este relatório de segurança SOTI destaca a necessidade de as organizações enfrentarem os desafios do novo ecossistema de IA, que é altamente fragmentado, implementando uma governança rigorosa da IA sobre fluxos de dados, identidades, extensões e agentes autônomos.

Para orientar essas iniciativas, nosso relatório oferece:

• Um framework de mitigação prático e testado em campo
• Uma lista prática de recomendações para CISOs e líderes de segurança

Com os frameworks de segurança adequados, as organizações podem explorar todo o potencial da inteligência artificial sem se expor a novos riscos.