Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Dauer 14 Stunden
Schulungsübersicht
Einführung in die KI-Inferenz mit Docker
- Verständnis von KI-Inferenz-Workloads
- Vorteile der containerisierten Inferenz
- Bereitstellungsszenarien und Einschränkungen
Erstellung von KI-Inferenzcontainern
- Auswahl von Basis-Images und Frameworks
- Paketerstellung von vortrainierten Modellen
- Strukturierung des Inferenzcodes für die Containerausführung
Absicherung containerisierter KI-Dienste
- Minimierung der Angriffsfläche der Container
- Verwaltung von Geheimnissen und sensiblen Dateien
- Sichere Netzwerk- und API-Expositionstrategien
Techniken zur portierbaren Bereitstellung
- Optimierung der Images für Portierbarkeit
- Garantierung reproduzierbarer Laufzeitumgebungen
- Verwaltung von Abhängigkeiten über Plattformen hinweg
Lokale Bereitstellung und Testung
- Betrieb von Diensten lokal mit Docker
- Fehlerbehebung in Inferenzcontainern
- Testung von Leistung und Zuverlässigkeit
Bereitstellung auf Servern und Cloud-VMs
- Anpassung der Container an entfernte Umgebungen
- Konfiguration eines sicheren Serverzugriffs
- Bereitstellung von Inferenz-APIs auf Cloud-VMs
Nutzung von Docker Compose für Mehrdienst-KI-Systeme
- Koordination der Inferenz mit unterstützenden Komponenten
- Verwaltung von Umgebungsvariablen und Konfigurationen
- Skalierung von Mikroservices mit Compose
Überwachung und Wartung von KI-Inferenzdiensten
- Ansätze für Logging und Beobachtbarkeit
- Erkennung von Fehlern in Inferenzpipelines
- Update und Versionierung von Modellen im Produktivbetrieb
Zusammenfassung und nächste Schritte
Voraussetzungen
- Grundlegendes Verständnis von Maschinenlern-Konzepten
- Erfahrung mit Python oder Backend-Entwicklung
- Kenntnis grundlegender Container-Konzepte
Zielgruppe
- Entwickler
- Backend-Ingenieure
- Teams, die KI-Dienste bereitstellen
Erfahrungsberichte (2)
Wie ich bereits erwähnt habe, war dies für mich (ohne Erfahrung) ein Tor zum Verständnis der Funktionen und Möglichkeiten dieser Programme und Werkzeuge.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Kurs - Docker and Kubernetes
Maschinelle Übersetzung
ein mehrstufiges, strukturiertes Kursprogramm.
Bert Paelinckx - Cube SoftwareSolutions
Kurs - Introduction to Docker
Maschinelle Übersetzung