Kontakt aufnehmen

Schulungsübersicht

Einführung in Huawei CloudMatrix

  • CloudMatrix-Ökosystem und Bereitstellungsablauf
  • Unterstützte Modelle, Formate und Bereitstellungsmodi
  • Typische Anwendungsfälle und unterstützte Chipsätze

Vorbereiten von Modellen für die Bereitstellung

  • Exportieren von Modellen aus Trainings-Tools (MindSpore, TensorFlow, PyTorch)
  • Verwenden des ATC (Ascend Tensor Compiler) zur Formatkonvertierung
  • Statische versus dynamische Formen bei Modellen

Bereitstellung auf CloudMatrix

  • Erstellen von Diensten und Registrieren von Modellen
  • Bereitstellen von Inferenzdiensten über die Benutzeroberfläche oder CLI
  • Routing, Authentifizierung und Zugriffskontrolle

Ausliefern von Inferenzanfragen

  • Abläufe für Batch- versus Echtzeit-Inferenz
  • Pipelines zur Datenvorverarbeitung und -nachverarbeitung
  • Aufrufen von CloudMatrix-Diensten aus externen Anwendungen heraus

Überwachung und Leistungsoptimierung

  • Bereitstellungsprotokolle und Anfragen-Tracking
  • Ressourcen-Skalierung und Lastverteilung
  • Latenzoptimierung und Durchsatzverbesserung

Integration mit Enterprise-Tools

  • Verbinden von CloudMatrix mit OBS und ModelArts
  • Verwenden von Workflows und Modellversionierung
  • CI/CD für die Modellbereitstellung und das Zurücksetzen (Rollback)

End-to-End-Inferenz-Pipeline

  • Bereitstellen einer vollständigen Bildklassifizierungs-Pipeline
  • Benchmarking und Validierung der Genauigkeit
  • Simulieren von Failover-Szenarien und Systemwarnungen

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Verständnis von Arbeitsabläufen zum Trainieren von KI-Modellen
  • Erfahrung mit Python-basierten ML-Frameworks
  • Grundlagenkenntnisse in Cloud-Bereitstellungskonzepten

Zielgruppe

  • KI-Operations-Teams (AI Ops)
  • Machine-Learning-Ingenieure
  • Cloud-Bereitstellungsspezialisten, die mit der Huawei-Infrastruktur arbeiten
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (2)

Kommende Kurse

Verwandte Kategorien