El ochenta y seis por ciento enfrenta importantes desafíos operativos al dar servicio a usuarios distribuidos desde configuraciones de nube centralizadas debido a restricciones de latencia y transporte de datos.
Conclusiones clave
-
El diseño de la nube heredada genera graves cuellos de botella al escalar.
-
Dar servicio a usuarios distribuidos desde nubes centralizadas genera problemas de latencia y limitaciones en el transporte de datos. La adopción de un modelo multinube distribuido resuelve esta fricción al alinear la capacidad de cómputo con las ubicaciones de los datos.
-
La salida de datos en la nube centralizada erosiona los márgenes brutos del software.
-
Los flujos continuos de consultas multiturno generan tráfico saliente imposible de almacenar en caché. El uso de plataformas de nube alternativas con tarifas planas de tránsito protege la rentabilidad unitaria a medida que crece el volumen de consultas.
-
El procesamiento centralizado causa retrasos inaceptables de red de retorno (backhaul).
-
El movimiento de datos a larga distancia degrada la experiencia del usuario. Enrutar la inferencia de modelos ligeros y el preprocesamiento de prompts a nodos perimetrales localizados garantiza la latencia subsegundo necesaria.
-
Los entornos distribuidos amplían la superficie de ataque empresarial.
-
Deslocalizar los motores de inferencia hacia ubicaciones perimetrales genera riesgos de cumplimiento normativo. Desplegar WAF, protección de API y enmascaramiento de datos en los nodos perimetrales intercepta las amenazas antes de que las solicitudes alcancen los sistemas centrales.
-
Las tarifas opacas de transferencia de datos generan costes operativos no presupuestados.
-
Los modelos de precios de los hiperescaladores tradicionales limitan la previsibilidad financiera. La adopción de proveedores de nube alternativos que ofrecen asignaciones de ancho de banda paquetizadas permite un escalado rentable y sostenible.
Preguntas frecuentes
Preguntas frecuentes
A diferencia de los modelos web tradicionales que entregan archivos estáticos almacenados en caché, la IA generativa transmite constantemente archivos multimedia adaptados y salidas JSON imposibles de almacenar en caché que ignoran las cachés del perímetro y generan cargos de salida por cada byte.
La integración de plataformas de nube alternativas y específicas para cada carga de trabajo puede reducir los costes indirectos de ancho de banda hasta en un 80 %.
El cincuenta y cuatro por ciento de los líderes de TI prefiere una combinación equitativa de inferencia en el perímetro y centralizada según los requisitos específicos de cada carga de trabajo.
Akamai Cloud cobra tarifas por exceso de salida de datos tan bajas como 0,005 $ por GB para Object Storage, al tiempo que incluye hasta 20 TB de transferencia de datos salientes mensuales por instancia.