Quatre-vingt-six pour cent des entreprises rencontrent des difficultés opérationnelles majeures lorsqu'elles fournissent des services à des utilisateurs dispersés à partir d'infrastructures cloud centralisées, en raison de problèmes de latence et de contraintes liées au transfert de données.
Points à retenir
-
La conception traditionnelle du cloud entraîne de graves problèmes de mise à l'échelle.
-
Fournir des services à des utilisateurs répartis géographiquement à partir de clouds centralisés entraîne des problèmes de latence et de contraintes liées au transfert de données. L’adoption d’un modèle multicloud distribué permet de résoudre ce problème en alignant les ressources de calcul avec l’emplacement des données.
-
La sortie centralisée des données dans le cloud réduit les marges brutes des logiciels.
-
Les flux de requêtes multitours continus génèrent un trafic sortant qui ne peut pas être mis en cache. L’utilisation de plateformes cloud alternatives avec un tarif de transit fixe permet de préserver la rentabilité économique à mesure que le volume des requêtes augmente.
-
Le traitement centralisé entraîne des retards inacceptables dans le réseau de retour.
-
Le transfert de données sur de longues distances nuit à l'expérience utilisateur. Le routage de l'inférence de modèles légers et du prétraitement des requêtes vers des nœuds périphériques locaux garantit une latence inférieure à une seconde, ce qui est essentiel.
-
Les environnements distribués augmentent la surface d’attaque des entreprises.
-
Déplacer les moteurs d'inférence vers des sites périphériques peut entraîner des risques en matière de conformité. En déployant des solutions de protection WAF, d’API et de masquage des données sur des nœuds périphériques, il est possible d’intercepter les menaces avant que les requêtes n’atteignent les systèmes centraux.
-
Les frais de transfert de données opaques entraînent des coûts opérationnels imprévus.
-
Les tarifs pratiqués par les hyperscalers historiques limitent la prévisibilité financière. Opter pour des fournisseurs de cloud alternatifs qui proposent des forfaits incluant une allocation de bande passante permet une mise à l'échelle économique et durable.
Foire aux questions (FAQ)
Foire aux questions (FAQ)
Contrairement aux modèles web traditionnels qui servent des fichiers statiques mis en cache, l’IA générative diffuse en continu des contenus personnalisés et non mis en cache, ainsi que des données JSON qui contournent les caches périphériques et entraînent des frais de transfert pour chaque octet.
L’intégration de plateformes cloud alternatives, adaptées à des charges de travail spécifiques, peut réduire les coûts liés à la bande passante de jusqu’à 80 %.
Cinquante-quatre pour cent des responsables informatiques préfèrent un équilibre entre l’inférence en périphérie et l’inférence centralisée, en fonction des besoins spécifiques de la charge de travail.
Akamai Cloud applique des frais de transfert de données excédentaires très compétitifs, à partir de 0,005 $ par Go pour le stockage d'objets, et inclut jusqu'à 20 To de transfert de données sortantes par mois et par instance.