Kontakt aufnehmen

Schulungsübersicht

Übersicht über CANN-Optimierungsmöglichkeiten

  • Wie die Inferenzleistung in CANN gehandhabt wird
  • Optimierungsziele für Edge- und Embedded-KI-Systeme
  • Verständnis der Nutzung des AI Cores und der Speicherverwaltung

Einsatz der Graph Engine zur Analyse

  • Einführung in die Graph Engine und den Ausführungs-Pipeline
  • Visualisierung von Operator-Graphen und Laufzeitmetriken
  • Anpassen von Berechnungsgraphen zur Optimierung

Profiling-Tools und Leistungskennzahlen

  • Nutzung des CANN Profiling Tools (profiler) für Lastanalyse
  • Analysieren der Kernel-Ausführungszeit und Engpässe
  • Speicherzugriffsprofiling und Tiling-Strategien

Entwicklung benutzerdefinierter Operatoren mit TIK

  • Übersicht über TIK und das Operator-Programmiermodell
  • Implementierung eines benutzerdefinierten Operators mittels TIK DSL
  • Testen und Benchmarking der Operator-Leistung

Erweiterte Optimierung von Operatoren mit TVM

  • Einführung in die Integration von TVM mit CANN
  • Strategien des automatischen Tunings für Berechnungsgraphen
  • Wann und wie man zwischen TVM und TIK wechselt

Speicheroptimierungstechniken

  • Verwalten der Speicherlayout- und Pufferplatzierung
  • Techniken zur Reduzierung des On-Chip-Speicherbedarfs
  • Bewährte Praktiken für asynchrone Ausführung und Wiederverwendung

Echtwelt-Bereitstellung und Fallstudien

  • Fallstudie: Leistungstuning für die Bildverarbeitungs-Pipeline einer Smart-City-Kamera
  • Fallstudie: Optimierung des Inferenz-Stacks autonomer Fahrzeuge
  • Richtlinien für iteratives Profiling und kontinuierliche Verbesserung

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Umfassende Kenntnisse über Architekturen und Trainingsworkflows tiefer neuronaler Netzwerke
  • Erfahrung mit der Modellspeisung unter Verwendung von CANN, TensorFlow oder PyTorch
  • Vertrautheit mit der Linux-Kommandozeile, Shell-Skripting und Python-Programmierung

Zielgruppe

  • KI-Leistungsingenieure
  • Spezialisten für Inferenzoptimierung
  • Entwickler, die mit Edge-KI oder Echtzeitsystemen arbeiten
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien