Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Übersicht über CANN-Optimierungsmöglichkeiten
- Wie die Inferenzleistung in CANN gehandhabt wird
- Optimierungsziele für Edge- und Embedded-KI-Systeme
- Verständnis der Nutzung des AI Cores und der Speicherverwaltung
Einsatz der Graph Engine zur Analyse
- Einführung in die Graph Engine und den Ausführungs-Pipeline
- Visualisierung von Operator-Graphen und Laufzeitmetriken
- Anpassen von Berechnungsgraphen zur Optimierung
Profiling-Tools und Leistungskennzahlen
- Nutzung des CANN Profiling Tools (profiler) für Lastanalyse
- Analysieren der Kernel-Ausführungszeit und Engpässe
- Speicherzugriffsprofiling und Tiling-Strategien
Entwicklung benutzerdefinierter Operatoren mit TIK
- Übersicht über TIK und das Operator-Programmiermodell
- Implementierung eines benutzerdefinierten Operators mittels TIK DSL
- Testen und Benchmarking der Operator-Leistung
Erweiterte Optimierung von Operatoren mit TVM
- Einführung in die Integration von TVM mit CANN
- Strategien des automatischen Tunings für Berechnungsgraphen
- Wann und wie man zwischen TVM und TIK wechselt
Speicheroptimierungstechniken
- Verwalten der Speicherlayout- und Pufferplatzierung
- Techniken zur Reduzierung des On-Chip-Speicherbedarfs
- Bewährte Praktiken für asynchrone Ausführung und Wiederverwendung
Echtwelt-Bereitstellung und Fallstudien
- Fallstudie: Leistungstuning für die Bildverarbeitungs-Pipeline einer Smart-City-Kamera
- Fallstudie: Optimierung des Inferenz-Stacks autonomer Fahrzeuge
- Richtlinien für iteratives Profiling und kontinuierliche Verbesserung
Zusammenfassung und nächste Schritte
Voraussetzungen
- Umfassende Kenntnisse über Architekturen und Trainingsworkflows tiefer neuronaler Netzwerke
- Erfahrung mit der Modellspeisung unter Verwendung von CANN, TensorFlow oder PyTorch
- Vertrautheit mit der Linux-Kommandozeile, Shell-Skripting und Python-Programmierung
Zielgruppe
- KI-Leistungsingenieure
- Spezialisten für Inferenzoptimierung
- Entwickler, die mit Edge-KI oder Echtzeitsystemen arbeiten
14 Stunden