[00:00 – 00:21] Les coûts cachés des déplacements de données : Swapnil Bhartiya aborde la question des coûts de trafic sortant, qui peuvent prendre les équipes au dépourvu lorsqu'elles mettent leurs solutions d'IA en production. Il s'interroge sur la part du coût de l'inférence centralisée imputable au déplacement des données et sur la manière dont les entreprises peuvent anticiper ces dépenses.
[00:22 – 01:07] Modéliser le coût global de l'IA : Ari Weil affirme qu'au cours des 12 à 36 prochains mois, les entreprises les plus performantes modéliseront l'ensemble de leurs coûts plutôt que de se limiter aux indicateurs mis en avant par les géants du cloud. Selon lui, cela exige de comprendre les variables liées à la montée en charge, telles que l'acquisition d'utilisateurs, la simultanéité des demandes ainsi que l'emplacement exact de la propriété intellectuelle et des données d'apprentissage externes.
[01:08 – 01:40] Évaluer les infrastructures internes par rapport aux infrastructures cloud : Ari Weil estime que la première étape consiste à calculer le coût de gestion des données dans son propre environnement, par exemple dans un espace loué ou un centre de données privé, plutôt que chez un fournisseur de services cloud. Ce processus permet aux équipes d'identifier où se situent leurs données, quelles frontières elles devront franchir, quelles zones de disponibilité sont concernées et quel sera l'impact financier de leur répartition entre différents types d'infrastructures.
[01:41 – 02:24] Le coût dissuasif du trafic sortant depuis le cloud : Ari Weil évoque les dépenses élevées associées à l'exportation des données ou à la rupture d'un partenariat avec un fournisseur de services cloud. Il souligne que les frais compris entre 9 et 12 cents par gigaoctet sont explicitement conçus pour inciter les clients à conserver leurs données au sein des plateformes des géants du cloud. Il ajoute que certains fournisseurs accordent une exemption occasionnelle de frais pour un téléchargement massif de données, mais uniquement lorsque l'entreprise prévoit réellement de quitter définitivement leur cloud.
[02:25 – 03:15] L'évolution vers une architecture neutre : la discussion s'oriente ensuite vers les architectures neutres, qui permettent aux entreprises de stocker les données dans un seul emplacement, de les synchroniser entre plusieurs sites et de les rendre disponibles là où elles sont nécessaires. Ari Weil précise qu'une architecture convergée, du cœur de réseau jusqu'à la bordure de l'Internet, peut sembler coûteuse au premier abord. Toutefois, elle devient avantageuse lorsqu'elle élimine les frais liés aux transferts de données entre microservices répartis sur différentes zones géographiques.
[03:16 – 03:48] Déterminer le placement des charges de travail : pour finaliser leur stratégie d'architecture, les entreprises doivent déterminer précisément où s'exécute l'inférence, à quelle fréquence se déroulent l'entraînement et le réglage précis des modèles, ainsi que l'emplacement du reste des activités de l'application. Cette compréhension opérationnelle, combinée avec une modélisation de la croissance du nombre d'utilisateurs, permet aux équipes d'identifier avec précision quels composants de l'application doivent être centralisés et lesquels doivent être distribués.