Kontakt aufnehmen
 Dauer 14 Stunden

Schulungsübersicht

Einführung in die KI-Inferenz mit Docker

  • Verständnis von KI-Inferenz-Workloads
  • Vorteile der containerisierten Inferenz
  • Bereitstellungsszenarien und Einschränkungen

Erstellung von KI-Inferenzcontainern

  • Auswahl von Basis-Images und Frameworks
  • Paketerstellung von vortrainierten Modellen
  • Strukturierung des Inferenzcodes für die Containerausführung

Absicherung containerisierter KI-Dienste

  • Minimierung der Angriffsfläche der Container
  • Verwaltung von Geheimnissen und sensiblen Dateien
  • Sichere Netzwerk- und API-Expositionstrategien

Techniken zur portierbaren Bereitstellung

  • Optimierung der Images für Portierbarkeit
  • Garantierung reproduzierbarer Laufzeitumgebungen
  • Verwaltung von Abhängigkeiten über Plattformen hinweg

Lokale Bereitstellung und Testung

  • Betrieb von Diensten lokal mit Docker
  • Fehlerbehebung in Inferenzcontainern
  • Testung von Leistung und Zuverlässigkeit

Bereitstellung auf Servern und Cloud-VMs

  • Anpassung der Container an entfernte Umgebungen
  • Konfiguration eines sicheren Serverzugriffs
  • Bereitstellung von Inferenz-APIs auf Cloud-VMs

Nutzung von Docker Compose für Mehrdienst-KI-Systeme

  • Koordination der Inferenz mit unterstützenden Komponenten
  • Verwaltung von Umgebungsvariablen und Konfigurationen
  • Skalierung von Mikroservices mit Compose

Überwachung und Wartung von KI-Inferenzdiensten

  • Ansätze für Logging und Beobachtbarkeit
  • Erkennung von Fehlern in Inferenzpipelines
  • Update und Versionierung von Modellen im Produktivbetrieb

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Grundlegendes Verständnis von Maschinenlern-Konzepten
  • Erfahrung mit Python oder Backend-Entwicklung
  • Kenntnis grundlegender Container-Konzepte

Zielgruppe

  • Entwickler
  • Backend-Ingenieure
  • Teams, die KI-Dienste bereitstellen

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (2)

Kommende Kurse

Verwandte Kategorien