Akamai Firewall for AI: obtenha proteção avançada contra novas ameaças a aplicações LLM

No entanto, juntamente com os benefícios dos LLMs, surgem novos riscos e ameaças. Os modelos de IA contêm conhecimento proprietário valioso e conjuntos de dados confidenciais, tornando-os alvos centrais de invasores. Os LLMs são vulneráveis a tipos novos e exclusivos de ataque, incluindo:

• Ataques de injeção de prompt — os invasores manipulam respostas geradas por IA para vazar dados confidenciais ou burlar medidas de segurança.

• Ataques de negação de serviço (DoS) específicos de IA — os adversários inundam modelos de IA com consultas com consultas de alto volume, levando ao esgotamento de recursos.

• Resultados tóxicos e alucinações: — os modelos de IA geram conteúdo enganoso, tendencioso ou ofensivo, levando a riscos à reputação.

• Exfiltração de dados e roubo de modelos — os invasores tentam extrair conhecimento proprietário de modelos de IA.

• Desafios de conformidade e governança — diretrizes do setor, como o OWASP Top 10 para LLMs, exigem maior supervisão.

As equipes de segurança cibernética precisam proteger suas organizações sem diminuir a velocidade dos aprimoramentos de inovação e produtividade provenientes dos LLMs. E elas também não podem prejudicar as experiências dos clientes. Mas as medidas de segurança tradicionais não foram desenvolvidas para defender contra as novas ameaças. Elas precisam de proteções especialmente projetadas para detectar e mitigar ataques a LLMs.

Hoje, anunciamos o Akamai Firewall for AI, uma solução de segurança desenvolvida especificamente para proteger aplicações com tecnologia de IA, LLMs e APIs orientadas por IA contra ameaças cibernéticas emergentes. Ao proteger consultas de IA de entrada e respostas de IA de saída, o Firewall for IA elimina as lacunas de segurança críticas da IA generativa. 

Com detecção de ameaças em tempo real, aplicação baseada em políticas e medidas de segurança adaptáveis, o firewall protege contra injeções de prompt, vazamentos de dados confidenciais, explorações de adversários e ataques de DoS específicos de IA. Como resultado, ele protege a integridade, a segurança e a confiabilidade da inovação orientada por IA.

Os principais recursos especializados do Firewall for AI incluem:

• Proteção multicamada: bloqueia entradas adversárias, consultas não autorizadas e raspagem de dados em larga escala para evitar manipulação e exfiltração de modelos

• Detecção de ameaças de IA em tempo real: utiliza regras de segurança adaptáveis para responder dinamicamente a ataques baseados em IA em evolução, incluindo injeção imediata e exploração de modelos

• Conformidade e proteção de dados: garante que as saídas geradas por IA permaneçam seguras e alinhadas aos padrões regulatórios e do setor

• Opções flexíveis de implantação: é implementado pela edge da Akamai, por API REST ou por proxy reverso, permitindo uma integração perfeita com estruturas de segurança existentes

• Mitigação proativa de riscos: filtra saídas de IA para evitar conteúdo tóxico, alucinações e vazamentos de dados não autorizados

Por exemplo, o Firewall for AI analisa prompts de LLMs quanto a tentativas de manipular o LLM, como formulações de prompts projetadas para contornar as proteções de privacidade ou segurança do LLM. Da mesma forma, ele inspeciona as respostas do LLM antes que elas atinjam seus usuários, o que ajuda a evitar a exposição de dados confidenciais, como números de contas de clientes. 

À medida que a IA se integra às suas principais aplicações empresariais, esse nível de inspeção pode se encaixar facilmente no processo de teste de aplicações, fortalecendo a confiança e a confiabilidade em cada etapa.