Schulungsübersicht

Einführung in Cambricon und MLU-Architektur

  • Übersicht über die AI-Chip-Portfolio von Cambricon
  • MLU-Architektur und Instruktionspipeline
  • Unterstützte Modelltypen und Anwendungsfälle

Installation der Entwicklungsumgebung

  • Installieren von BANGPy und Neuware SDK
  • Umgebungssetup für Python und C++
  • Modellkompatibilität und Vorbereitung

Modellentwicklung mit BANGPy

  • Tensorenstruktur und Formverwaltung
  • Aufbau des Berechnungsgraphen
  • Unterstützung für benutzerdefinierte Operationen in BANGPy

Bereitstellung mit Neuware Runtime

  • Konvertieren und Laden von Modellen
  • Ausführung und Inferenzsteuerung
  • Praktiken zur Bereitstellung an der Edge und im Datencenter

Leistungsverbesserungen

  • Speicheraufteilung und Schichtoptimierung
  • Ausführungsverfolgung und Profiling
  • Häufige Haltungen und Lösungen

Integrieren von MLU in Anwendungen

  • Nutzung von Neuware APIs für die Anwendungsaufnahme
  • Streaming und Unterstützung mehrerer Modelle
  • Hybride CPU-MLU-Inferenzszenarien

Von der Idee bis zur Realisierung-Projekt und Use Case

  • Labor: Bereitstellung eines Bilderkennungs- oder NLP-Modells
  • Inferenz an der Edge mit BANGPy-Integration
  • Tests für Genauigkeit und Durchsatz

Zusammenfassung und Weitere Schritte

Voraussetzungen

  • Eine Verständnis der Strukturen von maschinellem Lernmodellen
  • Erfahrung mit Python und/oder C++
  • Vertrautheit mit Konzepten zur Modellbereitstellung und -beschleunigung

Zielgruppe

  • Entwickler für eingebettete KI
  • ML-Engineer, die an der Edge oder im Datenzentrum bereitstellen
  • Entwickler, die mit chinesischer KI-Infrastruktur arbeiten
 21 Stunden

Teilnehmerzahl


Price per participant (excl. VAT)

Kommende Kurse

Verwandte Kategorien