Schulungsübersicht

Einführung in Huawei CloudMatrix

  • CloudMatrix-Ökosystem und Bereitstellungsablauf
  • Unterstützte Modelle, Formate und Bereitstellungsmethoden
  • Typische Anwendungsfälle und unterstützte Chipsätze

Vorbereitung von Modellen für die Bereitstellung

  • Modellausgabe aus Trainingswerkzeugen (MindSpore, TensorFlow, PyTorch)
  • Nutzung des ATC (Ascend Tensor Compiler) zur Formatkonvertierung
  • Statische vs. dynamische Formate von Modellen

Bereitstellung in CloudMatrix

  • Dienstserstellung und Modellregistrierung
  • Bereitstellung von Inferenzdiensten über UI oder CLI
  • Routing, Authentifizierung und Zugriffskontrolle

Dienstleistung für Inferenzanfragen

  • Batch vs. Echtzeit-Inferenzabläufe
  • Vorverarbeitung und Nachverarbeitungs-Pipelines
  • Aufrufen von CloudMatrix-Diensten aus externen Anwendungen

Überwachung und Leistungsjustierung

  • Bereitstellungslögen und Anforderungsverfolgung
  • Ressourcen-Ausweitung und Lastausgleich
  • Latenzjustierung und Durchsatzoptimierung

Integration mit Unternehmenswerkzeugen

  • Vernetzung von CloudMatrix mit OBS und ModelArts
  • Nutzung von Workflows und Modellversionierung
  • CI/CD für Modellbereitstellung und Rollback

Ganzzugige Inferenzpipeline

  • Bereitstellung einer vollständigen Bildklassifizierungs-Pipeline
  • Leistungsmessung und Genauigkeitsprüfung
  • Simulation von Ausfallszenarien und Systemalarmlisten

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Eine Verständnis der Workflow für das Training von AI-Modellen
  • Erfahrung mit ML-Frameworks basierend auf Python
  • Grundlegende Kenntnisse über Konzepte der Cloud-Bereitstellung

Zielgruppe

  • AI-Operations-Teams
  • Maschinelles Lerningenieure
  • Cloud-Bereitstellungs-Spezialisten, die mit Huawei-Infrastrukturen arbeiten
 21 Stunden

Teilnehmerzahl


Price per participant (excl. VAT)

Erfahrungsberichte (1)

Kommende Kurse

Verwandte Kategorien