Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Einführung in KI-Inferenz mit Docker
- Verständnis von KI-Inferenz-Workloads
- Vorteile containerisierter Inferenz
- Deployment-Szenarien und Einschränkungen
Erstellung von KI-Inferenz-Containern
- Auswahl von Basis-Images und Frameworks
- Verpackung vortrainierter Modelle
- Strukturierung des Inferenz-Codes für die Container-Ausführung
Absicherung von containerisierten KI-Diensten
- Minimierung der Angriffsfläche von Containern
- Verwaltung von Secrets und sensiblen Dateien
- Sichere Netzwerk- und API-Freigabestrategien
Portable Deployment-Techniken
- Optimierung von Images für Portabilität
- Sicherstellung vorhersagbarer Laufzeitumgebungen
- Verwaltung von Abhängigkeiten über Plattformen hinweg
Lokales Deployment und Testing
- Ausführen von Diensten lokal mit Docker
- Debugging von Inferenz-Containern
- Testen von Leistung und Zuverlässigkeit
Deployment auf Servern und Cloud-VMs
- Anpassung von Containern für Remote-Umgebungen
- Konfiguration des sicheren Serverzugriffs
- Deployment von Inferenz-APIs auf Cloud-VMs
Verwendung von Docker Compose für multi-dienste KI-Systeme
- Orchestrierung der Inferenz mit unterstützenden Komponenten
- Verwaltung von Umgebungsvariablen und Konfigurationen
- Skalierung von Mikrodiensten mit Compose
Überwachung und Wartung von KI-Inferenzdiensten
- Logging- und Observability-Ansätze
- Erkennen von Fehlern in Inferenz-Pipelines
- Aktualisierung und Versionierung von Modellen in der Produktion
Zusammenfassung und nächste Schritte
Voraussetzungen
- Grundverständnis von Machine-Learning-Konzepten
- Erfahrung mit Python oder Backend-Entwicklung
- Vertrautheit mit grundlegenden Container-Konzepten
Zielgruppe
- Entwickler
- Backend-Ingenieure
- Teams, die KI-Dienste deployen
14 Stunden
Erfahrungsberichte (3)
Gute und machbare Übungen.
Jannes Wykhoff - Landesamt fur Geoinformation und Landesvermessung Niedersachsen (LGLN)
Kurs - Certified Kubernetes Application Developer (CKAD) - exam preparation
Wie Trainer Wissen effektiv vermitteln
Vu Thoai Le - Reply Polska sp. z o. o.
Kurs - Certified Kubernetes Administrator (CKA) - exam preparation
Maschinelle Übersetzung
Der Trainer hatte viel Wissen und Geduld, die er mit uns teilen konnte.
Bogdan Olaru
Kurs - Introduction to Docker
Maschinelle Übersetzung