Como as empresas estão equilibrando a inovação em IA com o risco

Os gastos globais com IA generativa (GenAI) estão projetados para atingir US$ 644 bilhões em 2025, o que representa um aumento impressionante de 76% em relação a 2024. A mensagem é clara: as empresas sentem que, se ficarem para trás na adoção da IA, correm risco de extinção. Apesar de sua onipresença, o uso da IA continua gerando preocupações para os líderes empresariais, desde riscos de segurança até questões operacionais. 

Sempre houve incerteza sobre se os riscos e as possíveis desvantagens da IA compensam os supostos benefícios. A inovação promete ganhos transformadores em experiência do cliente e eficiência, mas os riscos potenciais de integrar a IA de forma indissociável às operações existentes podem ter consequências graves.

Os líderes técnicos enfrentam um delicado ato de equilíbrio: como as empresas podem buscar inovação em IA em escala sem se expor a níveis inaceitáveis de risco?

A nova pesquisa encomendada pela Akamai e conduzida pela Forrester oferece algumas respostas sobre como as empresas estão alcançando esse equilíbrio hoje. Ao entrevistar 400 executivos seniores responsáveis por estratégias de IA e de nuvem corporativa, o estudo revela como as organizações estão avançando rapidamente para capturar valor, ao mesmo tempo em que estabelecem as diretrizes necessárias para proteger seus negócios.

A pesquisa da Forrester deixa claro que os líderes empresariais estão integrando a IA diretamente aos principais objetivos de negócios, tornando-a o elemento central da estratégia empresarial. Mesmo assim, os líderes têm o cuidado de priorizar aplicações de baixo risco e alto retorno. 

Os entrevistados identificaram três principais objetivos que impulsionam o investimento em IA:

1. Aprimoramento da experiência dos clientes (76%)
2. Aumento da eficiência operacional (76%)
3. Fortalecimento da retenção de clientes (71%)

Outros estudos têm mostrado consistentemente que as melhorias na experiência do cliente (CX) se correlacionam diretamente com o aumento da receita, redução da rotatividade e maior diferenciação competitiva.

De acordo com a McKinsey & Company, por exemplo, "...80% da criação de valor alcançada pelas empresas de crescimento mais bem-sucedidas do mundo provém de seu negócio fundamental, principalmente, a geração de novas receitas a partir de clientes existentes."

Portanto, em vez de usar a IA porque é necessário para se manterem competitivos, os líderes empresariais têm o cuidado de associar a nova tecnologia a resultados mensuráveis que afetam a receita e o crescimento. Isso explica por que os casos de uso de IA de maior prioridade são os mais próximos do cliente. 

Mais da metade das organizações está usando aplicações de IA para personalização (53%), automatização de processos de resolução de problemas dos clientes (53%) e resposta a perguntas dos clientes (52%). Essas aplicações oferecem risco relativamente baixo em comparação com casos de uso mais experimentais, mas oferecem retorno rápido e tangível do investimento.

Ao se concentrar em melhorias imediatas da CX, as empresas podem gerar retornos que financiam mais exploração, enquanto também preparam equipes e infraestrutura para iniciativas mais ambiciosas.

A segurança cibernética é uma preocupação para 63% dos entrevistados. Os sistemas de IA introduzem novas superfícies de ataque e expandem as existentes para agentes de ameaças. Ameaças como contaminação de modelos, injeção de prompts e exfiltração de dados, já estão sendo observadas na prática. Quando as aplicações voltadas para o cliente dependem da IA para a tomada de decisões, mesmo pequenas vulnerabilidades podem se transformar em violações significativas.

À medida que os governos aprovam novas regulamentações relacionadas à IA, como a Lei da UE sobre IA e as estruturas e diretrizes específicas do setor dos EUA, as empresas enfrentam obstáculos de não conformidade à medida que ampliam o uso da IA. Ao contrário do software tradicional, a IA introduz desafios exclusivos, como explicabilidade, capacidade de ser auditada e mitigação de vieses. O descumprimento das regulamentações pode resultar em penalidades, riscos jurídicos e interrupção das implementações.

As falhas de IA tendem a se tornar públicas. Um mecanismo de recomendação tendencioso ou um chatbot com alucinações podem rapidamente virar manchete. A privacidade de dados dos clientes pode ser violada. Em casos de uso voltados para o cliente, um erro pode ser mais do que uma questão técnica. Ele pode prejudicar a marca. Reconstruir a confiança nas empresas pode ser caro.

A IA mal implementada pode causar rotatividade, perda de oportunidades e desperdício de investimentos. Por exemplo, se um chatbot de IA de varejo fornecer conselhos financeiros enganosos, a empresa poderá enfrentar não apenas multas regulatórias e litígios, mas também reações negativas dos consumidores, o que acabaria minando os ganhos de retenção que os sistemas de IA pretendiam alcançar inicialmente.

As consequências desses riscos podem se transformar em interrupções críticas nos negócios de uma empresa, e é por isso que os líderes devem ter cuidado com a adoção da IA e equilibrar cuidadosamente os riscos e os benefícios da inovação.

Em vez de apostar totalmente em projetos ambiciosos de IA generativa, muitas organizações estão começando em pequena escala. Ao implementar a IA em casos de uso controlados (como automação do atendimento ao cliente), elas ganham experiência sem comprometer operações críticas. Esse modelo iterativo permite que elas testem, aprendam e dimensionem de forma responsável.

Construir e manter uma infraestrutura de IA é complexo, e as empresas dependem cada vez mais de serviços gerenciados para treinamento e inferência de modelos. Isso reduz a carga operacional e torna o conhecimento especializado mais acessível. 

Ao terceirizar tarefas com alto risco, as organizações também minimizam a exposição e aceleram a implantação. A chave é escolher serviços de empresas com padrões de segurança e mitigação de riscos semelhantes aos seus.

Os dados da pesquisa também mostram que as empresas estão experimentando tecnologias de IA nativas da nuvem e de código aberto. As arquiteturas nativas da nuvem oferecem escalabilidade e resiliência, enquanto a tecnologia de código aberto fornece flexibilidade e velocidade, ambas necessárias para a adoção da IA e atualizações de tecnologia. A recompensa é agilidade sem dependência de fornecedores a longo prazo.

Dada a complexidade da adoção da IA, muitas organizações estão priorizando fornecedores com experiência comprovada em IA. Esses parceiros ajudam as empresas a navegar não apenas pela tecnologia, mas também pela conformidade, escalabilidade e segurança. Um sólido ecossistema de fornecedores apoia estratégias de mitigação de riscos de IA.

Talvez o mais importante seja que as organizações estão reconhecendo que a governança da IA não pode ficar restrita apenas à área de TI. As principais empresas estão criando estruturas de governança multifuncionais que envolvem equipes de conformidade, jurídicas e de segurança desde o início. Essa abordagem holística garante que a inovação em IA se alinhe aos requisitos regulatórios e aos padrões éticos de IA.

O principal padrão que emergiu dos dados é que as empresas estão alcançando equilíbrio por meio da estrutura, ou seja, elas estão construindo a base que permite que a inovação e a gestão de riscos avancem em paralelo.

Além da estrutura operacional, a adoção equilibrada da IA requer uma infraestrutura sólida. De fato, de acordo com o estudo da Forrester, 55% das empresas citam as lacunas tecnológicas e de plataforma como seu principal desafio para a adoção da IA. 

As plataformas de nuvem tradicionais não foram projetadas para as demandas exclusivas de workloads de IA sensíveis ao desempenho, como inferência em escala. Latência, ineficiência de custos e controles inadequados de localização de dados criam riscos, desde a degradação da experiência do cliente até maior exposição em auditorias de conformidade.

As empresas estão repensando suas estratégias de infraestrutura explorando alternativas criadas especificamente para o desempenho da IA. Elas estão fazendo isso usando plataformas otimizadas para workloads distribuídos, inferência de baixa latência e segurança desde o design. 

Em termos simples, a infraestrutura não é apenas a base para a tecnologia de IA; é uma parte ativa da equação de risco. Escolher a base errada pode amplificar as vulnerabilidades. Escolher a opção certa pode transformar a IA de um passivo em uma vantagem competitiva de longo prazo.

A jornada da IA corporativa está evoluindo rapidamente. A adoção inicial se concentrou em casos de uso específicos. Depois, a onda da IA generativa se expandiu para criação de conteúdo, análises e automação. 

Agora, estamos à beira da próxima fase: IA agêntica. A IA agêntica compõe sistemas com autonomia que atuam em nome dos seres humanos e tomam decisões com base no contexto existente. Essa evolução promete mais ganhos, mas também, é claro, riscos sem precedentes.

Cada fase da IA aumenta tanto o potencial de ganhos quanto os riscos de fracasso. As empresas que tiverem sucesso serão aquelas que estão atualmente construindo fluência organizacional por meio da adoção iterativa, investindo em infraestrutura resiliente e otimizada para desempenho e incorporando governança e conformidade desde o início.

Agora é o momento para os tomadores de decisão técnica reavaliarem as soluções de IA e as estratégias de nuvem, especialmente suas escolhas de infraestrutura, para garantir que possam escalar de forma responsável e com considerações éticas em mente.

Para uma análise mais aprofundada sobre como 400 executivos seniores estão abordando o desenvolvimento e a adoção da IA, baixe o relatório completo da Forrester, State of Enterprise AI: Gaining Experience and Managing Risks.