[00 :00–00 :45] Introduction de l'assistant RAG : Lena Hall présente la création et le déploiement d'un chatbot de type RAG (Retrieval Augmented Generation) doté de capacités de questions-réponses fondées sur des données factuelles. Elle raconte comment elle s'est retrouvée bloquée dans un aéroport en raison de retards de vol et explique comment un bot permet d'analyser des clauses contractuelles complexes.
[00:45–01:24] Présentation de l'architecture du système : Explication du schéma d'architecture du système, comprenant le Linode Kubernetes Engine, le conteneur d'application FastAPI, l'orchestration LangChain/LangGraph, les bases de données Postgres (pgvector et état de la conversation), le stockage en mode objet Linode et l'intégration de l'API OpenAI.
[01:24–02:29] Justification de la pile technologique : Discussion sur les raisons du choix d'outils spécifiques pour cette version de production, notamment Python avec LangChain et LangGraph pour l'état de la conversation, pgvector sur Postgres pour éviter le recours à des bases de données vectorielles dédiées coûteuses, et Linode Kubernetes Engine (LKE) sur Akamai Cloud avec un stockage en mode objet compatible S3.
[02:29–02:54] Phase 1 : IaC (Terraform) : Configuration de l'infrastructure à l'aide de Terraform pour créer le cluster Kubernetes, les buckets de stockage en mode objet S3 et deux bases de données Postgres (l'une pour les vecteurs et l'autre pour l'historique des conversations).
[02:54–03:07] Génération d'une clé API Linode : Procédure détaillée de connexion à la console Akamai Cloud afin de créer un jeton d'accès personnel Linode doté de droits de lecture/écriture pour les bases de données, les Linodes, Kubernetes et le stockage en mode objet.
[03:07–03:48] Exécution des commandes Terraform : Accès au répertoire terraform/, copie du fichier terraform.tfvars.example vers terraform.tfvars, insertion de la clé API, exécution des commandes terraform init, terraform plan et terraform apply, puis enregistrement du fichier terraform output .json sous le nom terraform.output.json.
[03:48–04:12] Phase 2 : Assimilation : Utilisation de la commande s3cmd sync avec les identifiants extraits de la sortie Terraform pour importer des documents PDF de règles locales vers le bucket de stockage en mode objet S3 nouvellement créé dans Akamai Cloud.
[04:12–05:16] Phase 3 : Configuration de la plateforme de l'application : Récupération des identifiants d'administrateur initiaux via kubectl à partir des secrets du cluster, connexion à l'interface web d'Akamai, configuration du jeton API pour le stockage en mode objet interne et installation de l'application Harbor pour héberger les images de conteneurs.
[05:16–05:39] Gestion des secrets et des règles réseau : Passage à Team View, connexion à un dépôt GitHub, création de l'image de conteneur, configuration de quatre sealed secrets (clé API OpenAI, chaînes de connexion à la base de données, identifiants de stockage S3 et clé d'administrateur), et définition des règles réseau sortantes.
[05:39–06:16] Déploiement des charges de travail et création de services : Configuration de la charge de travail de déploiement via le Helm chart (rag-chatbot) avec des variables d'environnement et des noms de buckets S3, puis création d'un service pour exposer la charge de travail sur le port 80.
[06:16–07:20] Phase 4 : Initialisation et validation : Test du point de terminaison d'état via curl, initialisation des tables de la base de données Postgres et de l'extension pgvector via une requête vers le point de terminaison d'administration, déclenchement de la tâche d'arrière-plan d'indexation des documents, et interaction avec l'interface de chat en direct pour interroger les règles de Delta Airlines en matière de retards de vols.
[07:20–08:50] Goulots d'étranglement architecturaux et mises à niveau futures : Analyse du recours à des API LLM externes (OpenAI) par rapport à l'auto-hébergement de modèles open source (tels que Llama ou Mistral) sur des nœuds basés sur des GPU au sein d'Akamai Cloud, afin d'améliorer la latence, le contrôle et la souveraineté des données.
[08:50–09:36] Conclusion : Remarques finales et invitation à consulter « Learn AI with Lena Hall » et « Droid AI ».
[09:36–11:40] Promotion des services de consultation : Présentation des consultations individuelles, de l'accompagnement technique en tête-à-tête, des audits d'intégration de l'IA et des options de coaching pour les dirigeants d'entreprise proposés par Droid AI.