Kontakt aufnehmen

Schulungsübersicht

Grundlagen der hybriden KI-Bereitstellung

  • Verstehen von Hybrid-, Cloud- und Edge-Bereitstellungsmodellen
  • Eigenschaften von KI-Arbeitslasten und Infrastrukturbedingungen
  • Auswahl der richtigen Bereitstellungstopologie

Containerisierung von KI-Arbeitslasten mit Docker

  • Erstellung von GPU- und CPU-Inferenzcontainern
  • Verwaltung sicherer Images und Registrierungen
  • Implementierung reproduzierbarer Umgebungen für KI

Bereitstellung von KI-Diensten in Cloud-Umgebungen

  • Ausführung der Inference auf AWS, Azure und GCP via Docker
  • Stellen von Cloud-Compute-Ressourcen für das Modell Serving zur Verfügung
  • Sicherheit von cloud-basierten KI-Endpunkten

Edge- und On-Prem-Bereitstellungstechniken

  • Ausführung von KI auf IoT-Geräten, Gateways und Microservern
  • Leichtgewichtige Laufzeiten für Edge-Umgebungen
  • Umgang mit unterbrechbarer Konnektivität und lokaler Persistenz

Hybrides Networking und sichere Konnektivität

  • Sichere Tunneling zwischen Edge und Cloud
  • Zertifikate, Secrets und tokenbasierter Zugriff
  • Performance-Tuning für latenzarme Inference

Orchestrierung verteilter KI-Bereitstellungen

  • Einsatz von K3s, K8s oder leichter Orchestrierung für Hybridumgebungen
  • Service Discovery und Workload-Scheduling
  • Automatisierung der Multi-Standort-Ausrollstrategien

Monitoring und Observability über Umgebungen hinweg

  • Verfolgung der Inference-Performance über Standorte hinweg
  • Zentralisiertes Logging für hybride KI-Systeme
  • Fehlererkennung und automatisierte Wiederherstellung

Skalieren und Optimieren von Hybrid-KI-Systemen

  • Skalierung von Edge-Clustern und Cloud-Knoten
  • Optimierung der Bandbreitennutzung und des Caching
  • Ausgleich der Rechenlasten zwischen Cloud und Edge

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Verständnis von Containerisierungskonzepten
  • Erfahrung mit Linux-Befehlszeilenoperationen
  • Vertrautheit mit Arbeitsabläufen für die Bereitstellung von KI-Modellen

Zielgruppe

  • Infrastrukturarchitekten
  • Site Reliability Engineers (SREs)
  • Edge- und IoT-Entwickler
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (3)

Kommende Kurse

Verwandte Kategorien