Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Einführung in KI-Inferenz mit Docker
- Verständnis von KI-Inferenz-Workloads
- Vorteile containerisierter Inferenz
- Bereitstellungsszenarien und Einschränkungen
Erstellung von KI-Inferenz-Containern
- Auswahl der Basis-Images und Frameworks
- Paketierte vortrainierte Modelle
- Strukturierung des Inferenz-Codes für die Container-Ausführung
Sicherung containerisierter KI-Dienste
- Minimierung der Container-Angriffsfläche
- Umgang mit Geheimnissen und sensiblen Dateien
- Sichere Netzwerk- und API-Belichtungsstrategien
Techniken für portable Bereitstellungen
- Optimierung der Images für Portabilität
- Sicherstellung vorhersehbarer Laufzeitumgebungen
- Verwaltung von Abhängigkeiten plattformübergreifend
Lokale Bereitstellung und Tests
- Ausführung der Dienste lokal mit Docker
- Debugging von Inferenz-Containern
- Leistungstests und Zuverlässigkeitsprüfungen
Bereitstellung auf Servern und Cloud-VMs
- Anpassung der Container für Remote-Umgebungen
- Konfiguration des sicheren Serverzugriffs
- Bereitstellung von Inferenz-APIs auf Cloud-VMs
Nutzung von Docker Compose für mehrdienstige KI-Systeme
- Orchestrierung der Inferenz mit unterstützenden Komponenten
- Verwaltung von Umgebungsvariablen und Konfigurationen
- Skalierung von Mikrodiensten mit Compose
Überwachung und Wartung von KI-Inferenzdiensten
- Protokollierungs- und Observability-Ansätze
- Erkennung von Fehlern in Inferenz-Pipelines
- Aktualisierung und Versionierung von Modellen in der Produktion
Zusammenfassung und nächste Schritte
Voraussetzungen
- Grundlegende Kenntnisse in Maschinellem Lernen
- Erfahrung mit Python oder Backend-Entwicklung
- Vertrautheit mit grundlegenden Containerkonzepten
Zielgruppe
- Entwickler
- Backend-Ingenieure
- Teams, die KI-Dienste bereitstellen
14 Stunden
Erfahrungsberichte (3)
Gute und machbare Übungen.
Jannes Wykhoff - Landesamt fur Geoinformation und Landesvermessung Niedersachsen (LGLN)
Kurs - Certified Kubernetes Application Developer (CKAD) - exam preparation
Wie Trainer Wissen effektiv vermitteln
Vu Thoai Le - Reply Polska sp. z o. o.
Kurs - Certified Kubernetes Administrator (CKA) - exam preparation
Maschinelle Übersetzung
Der Trainer hatte viel Wissen und Geduld, die er mit uns teilen konnte.
Bogdan Olaru
Kurs - Introduction to Docker
Maschinelle Übersetzung