Cómo equilibran las empresas la innovación de IA con el riesgo

Se prevé que el gasto mundial en IA generativa (GenAI) alcance los 644 mil millones de USD en 2025, lo que supone un impresionante aumento del 76 % con respecto a 2024. El mensaje es claro: las empresas sienten que si se quedan atrás en la adopción de la IA, se enfrentarán a amenazas existenciales. Sin embargo, a pesar de su ubicuidad, el uso de la IA sigue siendo una fuente de preocupaciones, desde riesgos para la seguridad hasta cuestiones operativas, para los directivos de las empresas. 

Siempre ha habido incertidumbre acerca de si los riesgos y las posibles desventajas de la IA se compensan con los beneficios que se pretenden obtener. La innovación promete beneficios transformadores en la experiencia y la eficiencia del cliente, pero los riesgos potenciales de integrar la IA inextricablemente en las operaciones existentes podrían tener graves consecuencias.

Los directivos técnicos se enfrentan a un delicado equilibrio: ¿Cómo pueden las empresas perseguir la innovación en IA a escala sin exponerse a niveles de riesgo inaceptables?

Una nueva investigación encargada por Akamai y realizada por Forrester ofrece algunas respuestas sobre cómo las empresas están logrando este equilibrio en la actualidad. Tras encuestar a 400 responsables de la toma de decisiones de estrategia de la nube empresarial e IA, el estudio descubre cómo se mueven las organizaciones lo suficientemente rápido como para captar valor, al tiempo que construyen las redes de seguridad necesarias para proteger sus negocios.

La investigación de Forrester deja claro que los directivos de las empresas están integrando la IA directamente en los principales objetivos empresariales, convirtiéndola en el elemento central de la estrategia empresarial. Aun así, los directivos se esfuerzan por priorizar las aplicaciones de bajo riesgo y alta recompensa. 

Los encuestados identificaron tres objetivos principales que impulsan la inversión en IA:

1. Mejorar la experiencia del cliente (76 %)
2. Mejorar la eficiencia operativa (76 %)
3. Fortalecer la retención de clientes (71 %)

Otros estudios han demostrado sistemáticamente que las mejoras en la experiencia del cliente (CX) se correlacionan directamente con el aumento de los ingresos, la reducción de la tasa de abandono y una mayor diferenciación competitiva.

Según McKinsey & Company, por ejemplo, "...el 80 % de la creación de valor lograda por las empresas con mayor crecimiento del mundo proviene de su negocio principal, principalmente, desbloqueando nuevos ingresos de los clientes existentes".

Por lo tanto, en lugar de utilizar la IA porque es necesario seguir siendo competitivos, los directivos de las empresas tienen cuidado de vincular la nueva tecnología a resultados medibles que afecten a los ingresos y el crecimiento. Esto explica por qué los casos de uso de IA de mayor prioridad son los más cercanos al cliente. 

Más de la mitad de las organizaciones utilizan aplicaciones de IA para personalización (53 %), para automatizar los procesos de resolución de incidencias de clientes (53 %) y para responder a las preguntas de los clientes (52 %). Estas aplicaciones ofrecen un riesgo relativamente bajo en comparación con los casos de uso más experimentales, pero ofrecen un retorno rápido y tangible de la inversión.

Al centrarse en mejoras inmediatas de la CX, las empresas pueden generar retornos de la inversión que financien la exploración adicional, al tiempo que preparan a los equipos y la infraestructura para iniciativas más ambiciosas.

La ciberseguridad era una preocupación para el 63 % de los encuestados. Los sistemas de IA introducen nuevas superficies de ataque y amplían las existentes para los atacantes. En la práctica ya se están observando amenazas como el envenenamiento de modelos, la inyección de instrucciones y la exfiltración de datos. Cuando las aplicaciones orientadas al cliente dependen de la IA para la toma de decisiones, incluso las pequeñas vulnerabilidades pueden convertirse en brechas de seguridad importantes.

A medida que los gobiernos promulgan nuevas regulaciones impulsadas por la IA, como la Ley de IA de la UE y los marcos y directrices sectoriales de EE. UU., las empresas se enfrentan a obstáculos de incumplimiento a medida que amplían la IA. A diferencia del software tradicional, la IA presenta problemas únicos como la explicabilidad, la auditabilidad y mitigación de sesgos. No cumplir con las regulaciones puede acarrear sanciones, exposición legal y suspensión de las implementaciones.

Los fallos de la IA tienden a hacerse públicos. Un motor de recomendación sesgado o las alucinaciones de un chatbot pueden convertirse rápidamente en un titular. La privacidad de los datos de los clientes puede sufrir filtraciones. En los casos de uso orientados al cliente, un error puede ser algo más que un problema técnico, ya que puede dañar la imagen de la marca. Puede costar mucho reconstruir la confianza en las empresas.

Una IA implementada de manera deficiente puede provocar abandonos, oportunidades perdidas y un malgasto de las inversiones. Por ejemplo, si un chatbot de IA de venta minorista proporciona asesoramiento financiero engañoso, la empresa puede enfrentarse no solo a multas y litigios normativos, sino también a una reacción negativa de los consumidores, lo que socavaría las ganancias de retención que los sistemas de IA estaban destinados a lograr en primer lugar.

Las consecuencias de estos riesgos pueden crecer y llegar a convertirse en disrupciones empresariales críticas, por lo que los directivos deben tener cuidado con la adopción de IA y equilibrar cuidadosamente los riesgos y las recompensas de la innovación.

En lugar de participar en proyectos ambiciosos de GenAI, muchas organizaciones están empezando a pequeña escala. Al implementar la IA en casos de uso controlados (como la automatización del servicio al cliente), adquieren experiencia sin poner en peligro las operaciones críticas. Este modelo iterativo les permite probar, aprender y ampliar de forma responsable.

La creación y el mantenimiento de la infraestructura de IA son complejos y las empresas dependen cada vez más de los servicios gestionados para el entrenamiento de modelos y las inferencias. Esto reduce la carga operativa y hace que la experiencia y los conocimientos especializados sean más accesibles. 

Al externalizar tareas de alto riesgo, las organizaciones también minimizan la exposición al mismo tiempo que aceleran la implementación. La clave es elegir servicios de empresas con estándares de seguridad y mitigación de riesgos similares a los suyos.

Los datos de la encuesta también muestran que las empresas están experimentando con tecnologías de IA nativas de la nube y de código abierto. Las arquitecturas nativas de la nube ofrecen escalabilidad y resiliencia, mientras que la tecnología de código abierto proporciona flexibilidad y velocidad, ambas necesarias para la adopción de la IA y las actualizaciones de tecnología. La recompensa es la agilidad sin depender de proveedores a largo plazo.

Dada la complejidad de la adopción de la IA, muchas organizaciones están dando prioridad a proveedores con experiencia demostrada en IA. Estos socios ayudan a las empresas a navegar no solo por la tecnología, sino también por el cumplimiento, la escalabilidad y la seguridad. Un sólido ecosistema de proveedores respalda las estrategias de mitigación de riesgos de la IA.

Quizás lo más importante es que las organizaciones están reconociendo que el control de la IA no puede ser responsabilidad exclusiva de TI. Las empresas líderes están creando marcos de control multidisciplinares que involucran a los equipos de cumplimiento, jurídico y seguridad desde el principio. Este enfoque holístico garantiza que la innovación en IA se alinee con los requisitos normativos y los estándares éticos en materia de IA.

El principal patrón que ha surgido de los datos es que las empresas están logrando el equilibrio a través de la estructura; es decir, están construyendo los andamios que permiten que la innovación y la gestión de riesgos progresen en paralelo.

Además de la estructura operativa, la adopción equilibrada de la IA requiere una infraestructura sólida. De hecho, según el estudio de Forrester, el 55 % de las empresas citan las brechas en tecnología y plataformas como su principal desafío a la hora de adoptar la IA. 

Las plataformas en la nube tradicionales no se diseñaron para las demandas únicas de las cargas de trabajo de IA sensibles al rendimiento, como las inferencias a escala. La latencia, la ineficiencia en los costes y los controles locales de datos inadecuados crean riesgos, desde experiencias insatisfactorias de los clientes hasta una mayor exposición en las auditorías de cumplimiento.

Las empresas están replanteándose sus estrategias de infraestructura explorando alternativas diseñadas específicamente para el rendimiento de la IA. Lo hacen utilizando plataformas optimizadas para cargas de trabajo distribuidas, inferencias de baja latencia y seguridad por diseño. 

En pocas palabras, la infraestructura no es solo la base de la tecnología de IA; es una parte activa de la ecuación de riesgo. Elegir una base incorrecta puede amplificar las vulnerabilidades. Elegir la base correcta puede convertir la IA de una responsabilidad a una ventaja competitiva a largo plazo.

El viaje de la IA empresarial está evolucionando rápidamente. La adopción temprana se centraba en casos de uso limitados, luego la ola de la IA generativa se amplió a la creación de contenido, análisis y automatización. 

Ahora, estamos en la cúspide de la siguiente fase: la IA agéntica. La IA agéntica conforma sistemas con autonomía que actúan en nombre de los humanos y toman decisiones basadas en el contexto existente. Esta evolución promete más beneficios, pero también, por supuesto, riesgos sin precedentes.

Cada fase de la IA aumenta tanto las posibilidades de éxito como los riesgos de fracaso. Las empresas que tengan éxito serán aquellas que actualmente están desarrollando una fluidez organizativa mediante la adopción iterativa invirtiendo en una infraestructura resiliente y optimizada para el rendimiento e incorporando el control y el cumplimiento desde el principio.

Ahora es el momento de que los responsables técnicos de la toma de decisiones reevalúen las soluciones de IA y las estrategias en la nube, en particular sus opciones de infraestructura, para garantizar que puedan ampliarla de forma responsable y teniendo en cuenta consideraciones éticas.

Para conocer más a fondo cómo 400 responsables de la toma de decisiones están abordando el desarrollo y la adopción de la IA, descargue el informe completo de Forrester, Estado de la IA empresarial: ganando experiencia y gestionando riesgos.