[00:00 - 00:16] Définition du TTFT : le temps jusqu'au premier jeton (TTFT) est une mesure qui indique la rapidité avec laquelle un modèle d'IA commence à générer sa première réponse à une requête utilisateur
[00:16 - 00:32] Impact sur l'expérience utilisateur : le TTFT joue un rôle déterminant dans la perception des utilisateurs : lorsqu'il est faible, les applications paraissent réactives, et lorsqu'il est élevé, elles peuvent sembler lentes, voire défaillantes
[00:32 - 00:41] Variables techniques : aperçu des principaux facteurs techniques qui affectent le TTFT, notamment la taille du modèle, les files d'attente matérielles et l'architecture de l'application
[00:41 - 00:52] Le goulet d'étranglement de la proximité : analyse détaillée de la proximité de l'utilisateur comme principal goulet d'étranglement, en raison de la distance physique et du chemin réseau qui le séparent de l'infrastructure d'hébergement
[00:52 - 01:04] L'infrastructure plutôt que le modèle : conclusion selon laquelle les ralentissements observés dans les applications d'IA sont généralement dus à l'infrastructure sous-jacente plutôt qu'au modèle lui-même