Schulungsübersicht
Grundlagen der hybriden AI-Bereitstellung
- Verständnis von hybriden, cloudbasierten und Edge-Modellen der Bereitstellung
- Charakteristika von AI-Workloads und Infrastrukturbeschränkungen
- Auswahl des richtigen Bereitstellungsverfahrens
Containerisierung von AI-Workloads mit Docker
- Erstellung von GPU- und CPU-Inferenzcontainern
- Verwaltung sicherer Images und Registries
- Implementierung reproduzierbarer Umgebungen für AI
Bereitstellung von AI-Diensten in Cloudbasierten Umgebungen
- Ausführen der Inferenz auf AWS, Azure und GCP über Docker
- Bereitstellung von Cloud-Compute für Modellserving
- Sichern cloudbasierter AI-Endpunkte
Edge- und On-Prem-Bereitstellungstechniken
- Ausführen von AI auf IoT-Geräten, Gateways und Mikroservers
- Leichtgewichtige Laufzeiten für Edge-Umgebungen
- Verwalten von intermittierender Konnektivität und lokaler Persistenz
Hybride Vernetzung und sichere Konnektivität
- Sichere Tunnelverbindung zwischen Edge und Cloud
- Zertifikate, Geheimnisse und tokenbasierte Zugriffe
- Leistungsoptimierung für Inferenz mit niedriger Latenz
Orchestrating verteilte AI-Bereitstellungen
- Verwendung von K3s, K8s oder leichtgewichtiger Orchestrierung für hybride Setups
- Service Discovery und Workload-Planung
- Automatisierung von mehrstandortigen Rolloutstrategien
Monitoring und Observabilität über Umgebungen hinweg
- Verfolgen der Inferenzleistung über Standorte hinweg
- Zentralisierung von Protokollen für hybride AI-Systeme
- Fehlererkennung und automatische Wiederherstellung
Skalierung und Optimierung hybrider AI-Systeme
- Skalieren von Edge-Clustern und Cloud-Knoten
- Optimieren des Bandbreitenverbrauchs und Caching
- Ausbalancieren der Rechenleistung zwischen Cloud und Edge
Zusammenfassung und Nächste Schritte
Voraussetzungen
- Ein Verständnis von Containerisierungskonzepten
- Erfahrung mit Linux-Befehlszeilenoperationen
- Kenntnisse über AI-Modellbereitstellungsworkflows
Zielgruppe
- Infrastrukturarchitekten
- Site Reliability Engineers (SREs)
- Edge- und IoT-Entwickler
Erfahrungsberichte (3)
Gute und machbare Übungen.
Jannes Wykhoff - Landesamt fur Geoinformation und Landesvermessung Niedersachsen (LGLN)
Kurs - Certified Kubernetes Application Developer (CKAD) - exam preparation
Wie Trainer Wissen effektiv vermitteln
Vu Thoai Le - Reply Polska sp. z o. o.
Kurs - Certified Kubernetes Administrator (CKA) - exam preparation
Maschinelle Übersetzung
Der Trainer hatte viel Wissen und Geduld, die er mit uns teilen konnte.
Bogdan Olaru
Kurs - Introduction to Docker
Maschinelle Übersetzung