Ele afirma que a IA "elimina a distância entre intenção e capacidade", permitindo que os invasores obtenham experiência e expandam suas operações mais rápido do que nunca.
Fraudes e violações de IA: defesas práticas para o varejo e o comércio eletrônico
A IA elimina a lacuna entre intenção criminosa e capacidade técnica. Barreiras menos eficazes permitem que invasores não sofisticados alcancem escala e velocidade de nível avançado. As organizações devem adotar arquiteturas adaptativas e uma postura Zero Trust para se defenderem contra esse multiplicador de ameaças automatizado.
A proliferação de bots de IA agêntica ameaça a integridade das transações. Bots autônomos que podem comprar e pagar de forma independente criam grandes superfícies de violação e dano às marcas. A validação de entradas por meio de uma análise de inteligência comportamental ajuda a distinguir automações legítimas de agentes mal-intencionados.
O preenchimento de credenciais e a revenda de contas validadas comprometem a confiança dos clientes. Os hackers utilizam dados roubados em escala, dificultando a diferenciação entre usuários reais e agentes mal-intencionados. A disposição de controles em camadas e o monitoramento de sinais de dispositivos antes do login são essenciais para aprimorar as proteções sem prejudicar a experiência dos clientes.
A IA generativa cria vetores de alto risco, como deepfakes e vazamentos de dados. Mídias sintéticas podem induzir call centers e departamentos de tesouraria a realizar pagamentos não autorizados, enquanto LLMs (grandes modelos de linguagem) públicos podem ingerir PI privada. A implementação de rigorosas proteções de dados e validações de fornecedores afasta os riscos das empresas.
- A segurança deve equilibrar os processos avaliatórios de fraude com a velocidade da conversão dos negócios. Estratégias de mitigação onerosas podem prejudicar a experiência dos clientes, mas a falta de ações deixa toda a cadeia de suprimentos vulnerável. Priorizar a identificação das funções de negócios mais críticas permite uma defesa direcionada e escalável.
Perguntas frequentes (FAQ)
Os três desafios específicos são o crescimento de bots autônomos de IA agêntica, o preenchimento de credenciais combinado com a revenda de credenciais validadas e o vazamento de dados em LLMs públicos.
O setor apresenta uma grande rede de áreas de superfície, acesso através de vários pontos de edge e pressões de mercados de produtos secundários.
A estratégia de primeira linha recomendada é identificar e conhecer o tráfego através da permissão de comportamentos legítimos e do bloqueio de todo o resto.
Deepfakes usam chamadas de voz e vídeo para enganar call centers e departamentos de tesouraria, como através da imitação de um CEO para solicitar cartões-presentes ou de um cliente para enganar uma empresa de transporte.
As empresas precisam avaliar a identidade (com quem estão interagindo), a intenção (o que está sendo solicitado) e o comportamento (como a comunicação ocorre).
Também conhecida como fraude de ressarcimento, a fraude amigável ocorre quando um consumidor faz uma compra legítima, mas depois afirma que a transação foi fraudulenta ou não autorizada.
O objetivo final é garantir a segurança de qualquer interação entre o consumidor e a marca.