Schulungsübersicht
Grundlagen der hybriden AI-Bereitstellung
- Verständnis von hybriden, cloudbasierten und Edge-Modellen der Bereitstellung
- Charakteristika von AI-Workloads und Infrastrukturbeschränkungen
- Auswahl des richtigen Bereitstellungsverfahrens
Containerisierung von AI-Workloads mit Docker
- Erstellung von GPU- und CPU-Inferenzcontainern
- Verwaltung sicherer Images und Registries
- Implementierung reproduzierbarer Umgebungen für AI
Bereitstellung von AI-Diensten in Cloudbasierten Umgebungen
- Ausführen der Inferenz auf AWS, Azure und GCP über Docker
- Bereitstellung von Cloud-Compute für Modellserving
- Sichern cloudbasierter AI-Endpunkte
Edge- und On-Prem-Bereitstellungstechniken
- Ausführen von AI auf IoT-Geräten, Gateways und Mikroservers
- Leichtgewichtige Laufzeiten für Edge-Umgebungen
- Verwalten von intermittierender Konnektivität und lokaler Persistenz
Hybride Vernetzung und sichere Konnektivität
- Sichere Tunnelverbindung zwischen Edge und Cloud
- Zertifikate, Geheimnisse und tokenbasierte Zugriffe
- Leistungsoptimierung für Inferenz mit niedriger Latenz
Orchestrating verteilte AI-Bereitstellungen
- Verwendung von K3s, K8s oder leichtgewichtiger Orchestrierung für hybride Setups
- Service Discovery und Workload-Planung
- Automatisierung von mehrstandortigen Rolloutstrategien
Monitoring und Observabilität über Umgebungen hinweg
- Verfolgen der Inferenzleistung über Standorte hinweg
- Zentralisierung von Protokollen für hybride AI-Systeme
- Fehlererkennung und automatische Wiederherstellung
Skalierung und Optimierung hybrider AI-Systeme
- Skalieren von Edge-Clustern und Cloud-Knoten
- Optimieren des Bandbreitenverbrauchs und Caching
- Ausbalancieren der Rechenleistung zwischen Cloud und Edge
Zusammenfassung und Nächste Schritte
Voraussetzungen
- Ein Verständnis von Containerisierungskonzepten
- Erfahrung mit Linux-Befehlszeilenoperationen
- Kenntnisse über AI-Modellbereitstellungsworkflows
Zielgruppe
- Infrastrukturarchitekten
- Site Reliability Engineers (SREs)
- Edge- und IoT-Entwickler
Erfahrungsberichte (5)
Er erklärte alles, nicht nur k8s-Begriffe.
Stefan Voinea - EMAG IT Research S.R.L
Kurs - Certified Kubernetes Application Developer (CKAD) - exam preparation
Maschinelle Übersetzung
Tiefe des Wissens des Trainers
Grant Miller - BMW
Kurs - Certified Kubernetes Administrator (CKA) - exam preparation
Maschinelle Übersetzung
Sehr informativ und prägnant. Praktische Übungen.
Gil Matias - FINEOS
Kurs - Introduction to Docker
Maschinelle Übersetzung
Ausgezeichneter Inhalt
Alan Kavanagh - FINEOS Corporation Ltd
Kurs - Docker from Basic to Advanced
Maschinelle Übersetzung
Labore und technische Diskussionen.
Dinesh Panchal - AXA XL
Kurs - Advanced Docker
Maschinelle Übersetzung