Schulungsübersicht

Einführung in Huawei CloudMatrix

  • CloudMatrix-Ökosystem und Bereitstellungsablauf
  • Unterstützte Modelle, Formate und Bereitstellungsmodi
  • Typische Anwendungsfälle und unterstützte Chipsätze

Vorbereitung von Modellen für die Bereitstellung

  • Modellausgabe aus Trainingswerkzeugen (MindSpore, TensorFlow, PyTorch)
  • Verwendung von ATC (Ascend Tensor Compiler) zur Formatkonvertierung
  • Statische vs. dynamische Formate für Modelle

Bereitstellung auf CloudMatrix

  • Erstellen von Diensten und Modellen registrieren
  • Bereitstellen von Inferenzdiensten über die Benutzeroberfläche oder CLI
  • Routing, Authentifizierung und Zugriffskontrolle

Verarbeitung von Inferenzanfragen

  • Batch vs. Echtzeit-Inferenzabläufe
  • Daten-Vor- und Nachbearbeitungs-Pipelines
  • Aufruf von CloudMatrix-Diensten aus externen Anwendungen

Überwachung und Leistungsoptimierung

  • Bereitstellungsprotokolle und Verfolgung von Anfragen
  • Ressourcenaufschaltung und Lastausgleich
  • Latenz-Optimierung und Durchsatzverbesserung

Integration mit Unternehmenswerkzeugen

  • Verbinden von CloudMatrix mit OBS und ModelArts
  • Nutzung von Workflows und Modellversionierung
  • CI/CD für die Modellbereitstellung und Rückgängigmachung

End-to-End-Inferenzpipeline

  • Bereitstellen einer vollständigen Bildklassifizierungspipeline
  • Benchmarking und Überprüfung der Genauigkeit
  • Simulieren von Failover und Systemalarmanlagen

Zusammenfassung und weitere Schritte

Voraussetzungen

  • Ein Verständnis der Workflow für das Training von AI-Modellen
  • Erfahrung mit ML-Frameworks basierend auf Python
  • Grundlegendes Wissen über Konzepte der Cloud-Deployment

Zielpublikum

  • AI-Ops-Teams
  • Machine Learning Ingenieure
  • Cloud-Deployment-Spezialisten, die mit der Infrastruktur von Huawei arbeiten
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (1)

Kommende Kurse

Verwandte Kategorien