Kontakt aufnehmen

Schulungsübersicht

Einführung in Cambricon und MLU-Architektur

  • Überblick über Cambricons KI-Chip-Portfolio
  • MLU-Architektur und Instruktionseinheit
  • Unterstützte Modelltypen und Anwendungsfälle

Installation der Entwicklungstoolchain

  • Installation von BANGPy und Neuware SDK
  • Umgebungseinstellung für Python und C++
  • Modellkompatibilität und Vorverarbeitung

Modellentwicklung mit BANGPy

  • Tensorstruktur und Shape-Verwaltung
  • Aufbau von Berechnungsgraphen
  • Unterstützung für benutzerdefinierte Operationen in BANGPy

Bereitstellung mit Neuware Runtime

  • Konvertierung und Laden von Modellen
  • Ausführung und Inferenzsteuerung
  • Bereitstellungspraktiken für Edge und Datacenter

Performance-Optimierung

  • Speicherabbildung und Layer-Tuning
  • Ausführungstracing und Profiling
  • Häufige Engpässe und deren Behebung

Integration von MLU in Anwendungen

  • Nutzung von Neuware-APIs für die Anwendungintegration
  • Streaming und Multi-Modell-Unterstützung
  • Hybride CPU-MLU-Inferenzszenarien

End-to-End-Projekt und Anwendungsfall

  • Übung: Bereitstellung eines Vision- oder NLP-Modells
  • Edge-Inferenz mit BANGPy-Integration
  • Prüfung von Genauigkeit und Durchsatz

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Verständnis von KI-Modellarchitekturen
  • Praktische Erfahrung mit Python und/oder C++
  • Vertrautheit mit Konzepten der Modellbereitstellung und Beschleunigung

Zielgruppe

  • Embedded-AI-Entwickler
  • ML-Engineure, die für Edge oder Datacenter bereitstellen
  • Entwickler, die mit chinesischer KI-Infrastruktur arbeiten
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (1)

Kommende Kurse

Verwandte Kategorien