[00:00–00:16] Definición de TTFT: explicación del tiempo hasta el primer token (TTFT) como una métrica que mide la rapidez con la que un modelo de IA comienza a generar su primera respuesta a una consulta de usuario
[00:16–00:32] Impacto en la experiencia del usuario: debate sobre cómo el TTFT actúa como un cambio psicológico en las reglas del juego, que hace que las aplicaciones parezcan rápidas cuando son rápidas o que están rotas cuando se retrasan
[00:32–00:41] Variables técnicas: descripción general de los factores técnicos clave que influyen en el TTFT, como el tamaño del modelo, la longitud de las colas de hardware y la arquitectura de las aplicaciones
[00:41–00:52] El cuello de botella de la proximidad: examen detallado de la proximidad del usuario como la principal barrera que afecta a la distancia física y el enrutamiento de red a la infraestructura de alojamiento
[00:52–01:04] Infraestructura sobre modelo: conclusión final de que el rendimiento lento de la IA suele provenir de la infraestructura circundante más que del propio modelo