Kontakt aufnehmen
 Dauer 21 Stunden

Schulungsübersicht

Einführung in die GPU-beschleunigte Containerisierung

  • Verständnis der GPU-Nutzung in Deep-Learning-Workflows
  • Wie Docker GPU-basierte Workloads unterstützt
  • Wichtige Überlegungen zur Leistungsfähigkeit

Installation und Konfiguration des NVIDIA Container Toolkits

  • Einrichtung von Treibern und CUDA-Kompatibilität
  • Validierung des GPU-Zugangs innerhalb von Containern
  • Konfiguration der Runtime-Umgebung

Erstellung GPU-fähiger Docker-Images

  • Nutzung von CUDA-Basis-Images
  • Paketierung von KI-Frameworks in GPU-fähigen Containern
  • Verwaltung von Abhängigkeiten für Training und Inferenz

Ausführung GPU-beschleunigter KI-Workloads

  • Ausführung von Trainingsjobs unter Nutzung von GPUs
  • Verwaltung von Multi-GPU-Workloads
  • Überwachung der GPU-Auslastung

Optimierung von Leistung und Ressourcenzuweisung

  • Begrenzung und Isolierung von GPU-Ressourcen
  • Optimierung von Speicher, Batch-Größen und Geräteplatzierung
  • Leistungsstuning und Diagnose

Containerisierte Inferenz und Modellbereitstellung

  • Erstellung von Containern für die Inferenz
  • Bereitstellung von Lastspitzen-Workloads auf GPUs
  • Integration von Modell-Runnern und APIs

Skalierung von GPU-Workloads mit Docker

  • Strategien für distribuiertes GPU-Training
  • Skalierung von Inferenz-Microservices
  • Koordination multipler AI-Systeme

Sicherheit und Zuverlässigkeit für GPU-fähige Container

  • Garantierung eines sicheren GPU-Zugangs in geteilten Umgebungen
  • Härtung von Container-Images
  • Verwaltung von Updates, Versionen und Kompatibilität

Zusammenfassung und weitere Schritte

Voraussetzungen

  • Grundverständnis der Prinzipien des Deep Learning
  • Erfahrung mit Python und gängigen KI-Frameworks
  • Vertrautheit mit grundlegenden Konzepten der Containerisierung

Zielgruppe

  • Deep-Learning-Ingenieure
  • Teams für Forschung und Entwicklung
  • Spezialisten für KI-Modelltraining

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (2)

Kommende Kurse

Verwandte Kategorien