O risco da IA é um risco de aplicação, pois os modelos de IA não existem de forma isolada e estão profundamente integrados em ecossistemas de aplicações complexos.
Principais conclusões
-
O risco da IA é o risco às aplicações.
-
Os agentes de IA agora consultam bancos de dados e acionam fluxos de trabalho, gerando responsabilidades que vão desde descontos não autorizados até a exclusão completa de bancos de dados de produção.
-
Quatro ameaças afetam aplicações de IA.
-
A injeção de prompts, a produção tóxica, o vazamento de dados confidenciais e os ataques de negação de serviço contra sistemas de IA colocam em risco a receita, a reputação e os dados.
-
Ataques conversacionais podem burlar os controles tradicionais de prevenção de perda de dados.
-
Consultas lentas e de baixo volume extraem dados proprietários em linguagem natural, sem acionar alertas volumétricos.
-
A segurança em camadas de aplicações de IA protege todo o ambiente de aplicações.
-
A Akamai adiciona proteção do tempo de execução de IA a WAAP, API e gerenciamento de bots existentes, evitando a necessidade de um processo custoso de substituição completa.
Perguntas frequentes (FAQ)
Perguntas frequentes (FAQ)
As quatro principais frentes de ameaça são: injeção de prompts e jailbreaking, produção tóxica e riscos à reputação da marca, vazamento de dados confidenciais e exfiltração de informações, além de esgotamento de recursos e ataques de negação de serviço contra sistemas de IA.
A injeção de prompts manipula aplicações de IA ao inserir instruções em linguagem natural nos prompts, enganando o modelo para que ele ignore as medidas de segurança e altere o uso pretendido.
As ferramentas tradicionais de prevenção de perda de dados falham porque os dados vazados são transformados em respostas em linguagem natural conversacional, em vez de serem transferidos como documentos estruturados.
De acordo com o Estudo sobre o impacto da segurança de APIs de 2026, incidentes relacionados a APIs custam, em média, US$ 700.000 às empresas.
Os ataques DoS tradicionais inundam a rede com tráfego bruto, enquanto os ataques DoS específicos da IA exploram a intensidade computacional assimétrica da inferência de modelos para esgotar a memória da GPU e os recursos de computação por meio da criação de prompts complexos.
Os bots automatizados representam 42% de todo o tráfego na web, sendo que quase dois terços são classificados como extração maliciosa, abuso ou tráfego de ataque.
As quatro camadas de proteção são: WAAP (App & API Protector), API Security, proteção contra bots e violações (Bot & Agent Control) e proteção do tempo de execução da IA (Firewall for AI).