Zum Hauptinhalt springen
Background

KI‑Training und -Inferenz im Vergleich

Erfahren Sie, wie sich KI‑Training und -Inferenz unterscheiden und warum die Inferenz eine stärker verteilte Infrastrukturstrategie erfordert.

Videozusammenfassung

Videozusammenfassung

[00:00–00:07] Rolle von Training und Inferenz: Erläuterung, dass Training KI‑Modelle erzeugt, während Inferenz den tatsächlichen Geschäftswert generiert

[00:07–00:20] Vergleich zwischen Trainings- und Inferenz-Workflows: Kontrast zwischen Training (Modellerstellung aus statischen Daten) und Inferenz (Ausführung von Modellen mit dynamischem Traffic)

[00:20–00:27] Infrastrukturmentalität für Inferenz: Diskussion darüber, warum die aktive, kontinuierliche Natur der Inferenz eine eigene Infrastrukturstrategie erfordert

[00:27–00:43] Zentralisierte und verteilte Infrastruktur im Vergleich: Vergleich zwischen zentralisierten GPU‑Clustern für Training und hochverteiltem, latenzempfindlichen Computing für Inferenz

[00:43–00:59] Optimale Workload-Ausführung: Erläuterung zur Ausführung der richtigen Workload an der richtigen Stelle über Core-, regionale und Edge-Standorte hinweg

Teilen

Zusätzliche Ressourcen

Akamai Cloud für KI, Anwendungen und Agenten

Akamai ist das Unternehmen für Cybersicherheit und Cloud Computing, das das digitale Leben unterstützt und schützt.

GPU in der Akamai Cloud

Akamai Cloud bietet mehrere GPU-Optionen mit NVIDIA RTX PRO™ 6000 Blackwell Server Edition® und der Quadro® RTX-Serie.

KI‑Inferenz-Cloudplattform für Echtzeit‑KI

Führen Sie KI-Inferenzprozesse näher am Nutzer durch – mit verteilter Cloud, GPU-Computing und integrierten Sicherheitsfunktionen für Echtzeit-KI-Anwendungen und -Agenten.