Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Dauer 14 Stunden
Schulungsübersicht
Einführung in die Entwicklung eigener Operatoren
- Warum eigene Operatoren entwickeln? Anwendungsfälle und Einschränkungen
- Struktur der CANN-Laufzeitumgebung und Integrationspunkte für Operatoren
- Übersicht über TBE, TIK und TVM im Huawei-KI-Ökosystem
Nutzung von TIK für Low-Level-Operatorenprogrammierung
- Verständnis des TIK-Programmierungsmodells und der unterstützten APIs
- Speichermanagement und Tiling-Strategie in TIK
- Erstellen, Kompilieren und Registrieren eines eigenen Operators mit CANN
Testen und Validieren eigener Operatoren
- Unit-Tests und Integrationstests von Operatoren im Graphen
- Debuggen von Leistungsschwierigkeiten auf Kernel-Ebene
- Visualisierung der Operatorausführung und des Pufferverhaltens
TVM-basiertes Scheduling und Optimierung
- Überblick über TVM als Compiler für Tensoroperatoren
- Schreiben eines Schedules für einen eigenen Operator in TVM
- TVM-Tuning, Benchmarking und Codegenerierung für Ascend
Integration mit Frameworks und Modellen
- Registrierung eigener Operatoren für MindSpore und ONNX
- Verifizierung der Modellintegrität und des Fallback-Verhaltens
- Unterstützung von Multi-Operator-Graphen mit gemischter Präzision
Fallstudien und spezialisierte Optimierungen
- Fallstudie: Hoch-effiziente Faltung für kleine Eingabegrößen
- Fallstudie: Speicheroptimierte Attention-Operatoren
- Best Practices beim Deployment eigener Operatoren über verschiedene Geräte hinweg
Zusammenfassung und nächste Schritte
Voraussetzungen
- Fundierte Kenntnisse der KI-Modellinternen und der Operator-Ebene-Berechnungen
- Erfahrung mit Python und Linux-Entwicklungsumgebungen
- Vertrautheit mit neuronalen Netzwerkcompilern oder Graph-Ebene-Optimierern
Zielgruppe
- Compiler-Entwickler, die an KI-Toolchains arbeiten
- Systementwickler mit Fokus auf Low-Level-KI-Optimierung
- Entwickler, die eigene Operatoren erstellen oder neue KI-Workloads anvisieren
