CANN für Edge-AI-Deployment Schulung
Das Huawei Ascend CANN-Toolkit ermöglicht leistungsfähige KI-Inferenz auf Edge-Geräten wie dem Ascend 310. CANN stellt unverzichtbare Werkzeuge zum Kompilieren, Optimieren und Bereitstellen von Modellen bereit, wobei Rechenleistung und Speicher eingeschränkt sind.
Dieses instructor-led-Training (live, online oder vor Ort) richtet sich an KI-Entwickler und Integratoren auf fortgeschrittenem Niveau, die Modelle auf Ascend Edge-Geräten mit der CANN Toolchain bereitstellen und optimieren möchten.
Nach Abschluss dieses Trainings werden die Teilnehmer in der Lage sein:
- KI-Modelle für den Ascend 310 mit CANN-Werkzeugen vorzubereiten und zu konvertieren.
- Leichtgewichtige Inferenz-Pipelines mit MindSpore Lite und AscendCL zu entwickeln.
- Die Modellleistung für Umgebungen mit begrenzter Rechenleistung und Speicher zu optimieren.
- KI-Anwendungen in realen Edge-Szenarien bereitzustellen und zu überwachen.
Format des Kurses
- Interaktiver Vortrag und Demonstration.
- Praxisnahe Laboreinheiten mit Edge-spezifischen Modellen und Szenarien.
- Live-Bereitstellungsbeispiele auf virtueller oder physischer Edge-Hardware.
Möglichkeiten zur Anpassung des Kurses
- Für eine maßgeschneiderte Schulung zu diesem Kurs wenden Sie sich bitte an uns, um dies zu organisieren.
Schulungsübersicht
Einführung in Edge AI und Ascend 310
- Überblick über Edge AI: Trends, Einschränkungen und Anwendungen
- Architektur des Huawei Ascend 310 Chips und unterstützte Toolchain
- Einordnung von CANN in den Stack für die KI-Bereitstellung an der Edge
Modellvorbereitung und Konvertierung
- Exportieren trainierter Modelle aus TensorFlow, PyTorch und MindSpore
- Verwendung von ATC zur Konvertierung der Modelle in das OM-Format für Ascend-Geräte
- Umgang mit nicht unterstützten Operationen und Strategien für eine leichte Konvertierung
Entwicklung von Inferenz-Pipelines mit AscendCL
- Nutzung der AscendCL-API zum Ausführen von OM-Modellen auf dem Ascend 310
- Vor- und Nachbearbeitung von Eingabe/Ausgabe, Speicherverwaltung und Gerätesteuerung
- Bereitstellung innerhalb eingebetteter Container oder leichtgewichtiger Laufzeitumgebungen
Optimierung für Edge-Einschränkungen
- Reduzierung der Modellgröße, Feinabstimmung der Genauigkeit (FP16, INT8)
- Verwendung des CANN Profilers zur Identifizierung von Engpässen
- Verwaltung des Speicherlayouts und des Daten-Streaming für die Performance
Deployment mit MindSpore Lite
- Nutzung des MindSpore Lite-Laufzeitumgebung für mobile und eingebettete Zielgeräte
- Vergleich von MindSpore Lite mit der reinen AscendCL-Pipeline
- Verpacken von Inferenz-Modellen für die gerätespezifische Bereitstellung
Edge-Deployment-Szenarien und Fallstudien
- Fallstudie: Smart-Kamera mit Objekterkennungsmodell auf dem Ascend 310
- Fallstudie: Echtzeitklassifizierung in einem IoT-Sensor-Hub
- Überwachung und Aktualisierung der bereitgestellten Modelle am Edge
Zusammenfassung und nächste Schritte
Voraussetzungen
- Erfahrung mit der Entwicklung oder dem Deployment von KI-Modellen
- Grundkenntnisse in eingebetteten Systemen, Linux und Python
- Vertrautheit mit Deep-Learning-Frameworks wie TensorFlow oder PyTorch
Zielgruppe
- Entwickler von IoT-Lösungen
- Embedded-KI-Ingenieure
- Edge-Systemintegratoren und KI-Deployment-Spezialisten
Offene Schulungskurse erfordern mindestens 5 Teilnehmer.
CANN für Edge-AI-Deployment Schulung - Buchung
CANN für Edge-AI-Deployment Schulung - Anfrage
CANN für Edge-AI-Deployment - Beratungsanfrage
Erfahrungsberichte (1)
Dass wir uns mit fortgeschrittenen Themen befassen und an realen Beispielen arbeiten können
Ruben Khachaturyan - iris-GmbH infrared & intelligent sensors
Kurs - Advanced Edge AI Techniques
Maschinelle Übersetzung
Kommende Kurse
Kombinierte Kurse
5G und Edge-AI: Ermöglichung von Anwendungen mit ultra-niedriger Latenz
21 StundenDiese von einem Dozenten geleitete, live abhaltende Schulung in Österreich (online oder vor Ort) richtet sich an Fachkräfte der Telekommunikation, KI-Ingenieure und IoT-Spezialisten mit mittlerem Erfahrungslevel, die untersuchen möchten, wie 5G-Netze Edge-AI-Anwendungen beschleunigen.
Nach Abschluss dieser Schulung können die Teilnehmer:
- Die Grundlagen der 5G-Technologie und deren Einfluss auf Edge-AI verstehen.
- KI-Modelle für Anwendungen mit niedriger Latenz in 5G-Umgebungen bereitstellen.
- Echtzeit-Entscheidungsfindungssysteme unter Einsatz von Edge-AI und 5G-Konnektivität implementieren.
- KI-Workloads für eine effiziente Performance auf Endgeräten optimieren.
6G und die intelligente Edge
21 StundenDer Kurs "6G und die intelligente Edge" blickt zukunftsweisend auf die Integration von 6G-Funktechnologien mit Edge Computing, IoT-Ökosystemen und KI-gesteuerter Datenverarbeitung ab, um intelligente, latenzarme und adaptive Infrastrukturen zu ermöglichen.
Diese live stattfindende, unter Anleitung erfolgende Schulung (online oder vor Ort) richtet sich an IT-Architekten auf mittlerem Niveau, die die nächsten Generationen verteilter Architekturen verstehen und entwerfen möchten, wobei sie die Synergien zwischen 6G-Konnektivität und intelligenten Edge-Systemen nutzen.
Nach Abschluss dieses Kurses sind die Teilnehmer in der Lage:
- zu verstehen, wie 6G das Edge Computing und IoT-Architekturen verändern wird.
- verteilte Systeme für ultra-niedrige Latenzzeiten, hohe Bandbreite und autonome Abläufe zu entwerfen.
- KI und Datenanalysen am Rand des Netzwerks (Edge) für intelligente Entscheidungsfindung zu integrieren.
- skalierbare, sichere und widerstandsfähige 6G-taugliche Edge-Infrastrukturen zu planen.
- die durch die Konvergenz von 6G und Edge ermöglichten Geschäfts- und Betriebsmodelle zu bewerten.
Format des Kurses
- Interaktive Vorträge und Diskussionen.
- Fallstudien und praktische Übungen zum Architekturentwurf.
- Praktische Simulationen mit optionalen Edge- oder Container-Tools.
Optionen zur Kursanpassung
- Um eine maßgeschneiderte Schulung für diesen Kurs zu anfordern, kontaktieren Sie uns bitte, um die Details zu vereinbaren.
Fortgeschrittene Edge-AI-Techniken
14 StundenDieses von einem Dozenten geleitete Live-Training in Österreich (online oder vor Ort) richtet sich an KI-Praktiker:innen, Forschende und Entwickler auf fortgeschrittenem Niveau, die die neuesten Entwicklungen in der Edge AI beherrschen, ihre KI-Modelle für den Edge-Einsatz optimieren und spezialisierte Anwendungen in verschiedenen Branchen erkunden möchten.
Am Ende dieses Trainings werden die Teilnehmenden in der Lage sein:
- Fortgeschrittene Techniken zur Entwicklung und Optimierung von Edge-AI-Modellen zu erkunden.
- Innovative Strategien zur Bereitstellung von KI-Modellen auf Endgeräten (Edge Devices) umzusetzen.
- Spezialisierte Tools und Frameworks für fortgeschrittene Edge-AI-Anwendungen zu nutzen.
- Die Leistungsfähigkeit und Effizienz von Edge-AI-Lösungen zu optimieren.
- Innovative Use Cases und aufkommende Trends in der Edge AI zu erkunden.
- Fortgeschrittene ethische und sicherheitsrelevante Aspekte bei Edge-AI-Bereitstellungen zu berücksichtigen.
Entwicklung von KI-Anwendungen mit Huawei Ascend und CANN
21 StundenHuawei Ascend ist eine Familie von KI-Prozessoren, die für hochperformantes Inference- und Training konzipiert wurden.
Dieser instruktionsgestützte Live-Workshop (online oder vor Ort) richtet sich an KI-Ingenieure und Data Scientists auf mittlerem Niveau, die neuronale Netzwerkmodelle mit Huawei’s Ascend-Plattform und dem CANN-Toolkit entwickeln und optimieren möchten.
Nach Abschluss dieser Schulung können die Teilnehmer:
- Die CANN-Entwicklungsumgebung einrichten und konfigurieren.
- KI-Anwendungen mit MindSpore und CloudMatrix-Workflows entwickeln.
- Die Leistung auf Ascend-NPUs durch benutzerdefinierte Operatoren und Tiling optimieren.
- Modelle in Edge- oder Cloud-Umgebungen bereitstellen.
Form der Schulung
- Interaktive Vorlesungen und Diskussionen.
- Praxisnahe Verwendung von Huawei Ascend und CANN-Toolkit in Beispielanwendungen.
- Angeleitete Übungen zu Modellierung, Training und Deployment.
Optionen zur Schulungsanpassung
- Wenn Sie eine maßgeschneiderte Schulung für diesen Kurs basierend auf Ihrer Infrastruktur oder Ihren Datensätzen wünschen, kontaktieren Sie uns bitte, um dies zu arrangieren.
Bereitstellung von KI-Modellen mit CANN und Ascend AI-Prozessoren
14 StundenCANN (Compute Architecture for Neural Networks) ist der KI-Rechenstapel von Huawei zur Bereitstellung und Optimierung von KI-Modellen auf Ascend AI-Prozessoren.
Diese von Ausbildenden geleitete Live-Schulung (online oder vor Ort) richtet sich an KI-Entwickler und Ingenieure mit mittleren Kenntnissen, die trainierte KI-Modelle effizient auf Huawei Ascend-Hardware bereitstellen möchten, wobei das CANN-Toolkit sowie Tools wie MindSpore, TensorFlow oder PyTorch eingesetzt werden.
Am Ende dieser Schulung sind die Teilnehmer in der Lage:
- Die CANN-Architektur und ihre Rolle im KI-Bereitstellungsprozess zu verstehen.
- Modelle aus gängigen Frameworks in Ascend-kompatible Formate umzuwandeln und anzupassen.
- Tools wie ATC, OM-Modellkonvertierung und MindSpore für Inferenzen an der Edge und in der Cloud zu nutzen.
- Bereitstellungsprobleme zu diagnostizieren und die Leistung auf Ascend-Hardware zu optimieren.
Format des Kurses
- Interaktive Vorlesung und Demonstration.
- Praxisübungen mit CANN-Tools und Ascend-Simulatoren oder Geräten.
- Praktische Bereitstellungsszenarien basierend auf realen KI-Modellen.
Möglichkeiten zur Kursanpassung
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
KI-Lösungen am Edge entwickeln
14 StundenDiese vom Dozenten geleitete Live-Schulung in Österreich (online oder vor Ort) richtet sich an Entwickler mit fortgeschrittenen Kenntnissen, Data Scientists und Technik-Enthusiasten, die praktische Fähigkeiten im Einsatz von KI-Modellen auf Edge-Geräten für verschiedene Anwendungen erwerben möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Die Grundprinzipien von Edge AI und deren Vorteile zu verstehen.
- die Edge-Computing-Umgebung einzurichten und zu konfigurieren.
- KI-Modelle für den Edge-Einsatz zu entwickeln, zu trainieren und zu optimieren.
- praktische KI-Lösungen auf Edge-Geräten zu implementieren.
- die Leistung von am Edge bereitgestellten Modellen zu bewerten und zu verbessern.
- ethische und sicherheitsrelevante Aspekte in Edge AI-Anwendungen zu berücksichtigen.
Sichere und widerstandsfähige Edge-AI-Systeme erstellen
21 StundenDieses vom Dozenten geleitete, live durchgeführte Training in Österreich (online oder vor Ort) richtet sich an fortgeschrittene Fachkräfte im Bereich der Cybersicherheit, KI-Ingenieure und IoT-Entwickler, die robuste Sicherheitsmaßnahmen und Resilienzstrategien für Edge-AI-Systeme implementieren möchten.
Nach Abschluss dieses Trainings sind die Teilnehmer in der Lage:
- Sicherheitsrisiken und Schwachstellen bei Edge-AI-Implementierungen zu verstehen.
- Verschlüsselungs- und Authentifizierungstechniken zum Schutz von Daten umzusetzen.
- widerstandsfähige Edge-AI-Architekturen zu entwerfen, die Cyberbedrohungen standhalten können.
- sichere Strategien für die Bereitstellung von KI-Modellen in Edge-Umgebungen anzuwenden.
Cambricon MLU-Entwicklung mit BANGPy und Neuware
21 StundenDie Cambricon MLUs (Machine Learning Units) sind spezialisierte KI-Chips, die für das Inferencing und Training in Edge- und Rechenzentrums-Szenarien optimiert sind.
Dieser instruktorgeführte Live-Trainingskurs (online oder vor Ort) richtet sich an Entwickler auf fortgeschrittenem Niveau, die mit Hilfe des BANGPy-Frameworks und der Neuware SDK KI-Modelle auf Cambricon MLU-Hardware erstellen und bereitstellen möchten.
Nach Abschluss dieses Trainings werden die Teilnehmer in der Lage sein:
- Die Entwicklungsumgebungen für BANGPy und Neuware einzurichten und zu konfigurieren.
- Python- und C++-basierte Modelle für Cambricon MLUs zu entwickeln und zu optimieren.
- Modelle auf Edge- und Rechenzentrumsgeräten bereitzustellen, die den Neuware-Laufzeitumgebung ausführen.
- ML-Workflows mit MLU-spezifischen Beschleunigungsfeatures zu integrieren.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praktische Anwendung von BANGPy und Neuware für Entwicklung und Deployment.
- Geführte Übungen, die sich auf Optimierung, Integration und Tests konzentrieren.
Möglichkeiten zur Kursanpassung
- Wenn Sie eine maßgeschneiderte Schulung für diesen Kurs basierend auf Ihrem Cambricon-Gerätemodell oder Anwendungszweck anfordern möchten, kontaktieren Sie uns bitte zur Vereinbarung.
Einführung in CANN für Entwickler von KI-Frameworks
7 StundenCANN (Compute Architecture for Neural Networks) ist das KI-Computing-Toolkit von Huawei, das zur Kompilierung, Optimierung und Bereitstellung von KI-Modellen auf Ascend-KI-Prozessoren verwendet wird.
Dieses Instructor-led-Training (online oder vor Ort) richtet sich an AI-Entwickler mit Grundkenntnissen, die verstehen möchten, wie CANN in den gesamten Modelllebenszyklus von der Schulung bis zur Bereitstellung integriert ist und wie es mit Frameworks wie MindSpore, TensorFlow und PyTorch zusammenarbeitet.
Am Ende dieses Trainings sind die Teilnehmer in der Lage:
- Den Zweck und die Architektur des CANN-Toolkits zu verstehen.
- Eine Entwicklungsumgebung mit CANN und MindSpore einzurichten.
- Ein einfaches KI-Modell auf Ascend-Hardware zu konvertieren und bereitzustellen.
- Grundlegendes Wissen für künftige CANN-Optimierungs- oder Integrationsprojekte zu erwerben.
Kursformat
- Interaktive Vorlesung und Diskussion.
- Praktische Übungen mit der Bereitstellung einfacher Modelle.
- Schritt-für-Schritt-Einführung in die CANN-Toolchain und Integrationspunkte.
Optionen zur Kursanpassung
- Für eine maßgeschneiderte Schulung zu diesem Kurs kontaktieren Sie uns bitte zur Terminvereinbarung.
Verstehen von Huaweis AI-Compute-Stack: Von CANN zu MindSpore
14 StundenDer KI-Stack von Huawei – vom tiefgreifenden CANN SDK bis zum hochrangigen MindSpore Framework – bietet eine eng integrierte Entwicklungsumgebung für KI, die auf Ascend-Hardware optimiert ist.
Diese Dozenten-gestützte Live-Schulung (Online oder vor Ort) richtet sich an technische Fachkräfte vom Anfänger- bis zum Fortgeschrittenen-Level, die verstehen möchten, wie CANN und MindSpore-Komponenten zusammenarbeiten, um das KI-Lebenszyklusmanagement und Infrastrukturentscheidungen zu unterstützen.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Die Schichtenarchitektur des Huawei AI Compute Stack zu verstehen.
- Zu erkennen, wie CANN bei der Modelloptimierung und Hardware-basierten Implementierung unterstützt.
- Das MindSpore Framework und die Toolchain im Vergleich zu Branchenaltschulen bewerten.
- Den Huawei AI Stack in Unternehmens- oder Cloud/On-Prem-Umgebungen positionieren.
Kursformat
- Interaktive Vorlesungen und Diskussionen.
- Live-System-Demonstrationen und Fall-basierte Durchläufe.
- Optionale angeleitete Laborarbeiten zum Modellfluss von MindSpore zu CANN.
Anpassungsoptionen des Kurses
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Optimieren der Leistung neuronaler Netzwerke mit dem CANN SDK
14 StundenDas CANN SDK (Compute Architecture for Neural Networks) ist Huaweis KI-Berechnungsgrundlage, die es Entwicklern ermöglicht, die Leistung von eingesetzten neuronalen Netzwerken auf Ascend-KIs-Prozessoren feinzustimmen und zu optimieren.
Dieser von einem Instruktör geleitete, live veranstaltete Kurs (online oder vor Ort) richtet sich an erfahrene KI-Entwickler und Systemingenieure, die die Inferenzleistung mithilfe der erweiterten Toolset-Funktionen von CANN optimieren möchten, einschließlich Graph Engine, TIK und der Entwicklung benutzerdefinierter Operatoren.
Nach Abschluss dieses Kurses sind die Teilnehmer in der Lage:
- Die Laufzeitarchitektur und den Lebenszyklus von CANN zu verstehen.
- Profiling-Tools und die Graph Engine für Leistungsanalyse und -optimierung zu verwenden.
- Benutzerdefinierte Operatoren mit TIK und TVM zu erstellen und zu optimieren.
- Speicherengpässe zu beheben und den Modell-Durchsatz zu verbessern.
Format des Kurses
- Interaktive Vorträge und Diskussionen.
- Praxisübungen mit Echtzeit-Profiling und Operator-Tuning.
- Optimierungsübungen anhand von Beispielen für Edge-Bereitstellungen.
Möglichkeiten zur Anpassung des Kurses
- Um eine maßgeschneiderte Schulung für diesen Kurs zu erhalten, kontaktieren Sie uns bitte zur Vereinbarung.
CANN SDK für Computer Vision und NLP-Pipelines
14 StundenDas CANN SDK (Compute Architecture for Neural Networks) bietet leistungsstarke Tools zur Bereitstellung und Optimierung von Echtzeit-KI-Anwendungen im Bereich Computer Vision und NLP, insbesondere für Huawei Ascend Hardware.
Dieses Instructor-Led-Training (live, online oder vor Ort) richtet sich an fortgeschrittene KI-Experten, die Vision- und Sprachmodelle mit dem CANN SDK für produktionsreale Anwendungen entwickeln, bereitstellen und optimieren möchten.
Am Ende dieses Trainings werden die Teilnehmer in der Lage sein:
- CV- und NLP-Modelle mit CANN und AscendCL bereitzustellen und zu optimieren.
- CANN-Tools zur Modellkonvertierung zu verwenden und diese in Live-Pipelines zu integrieren.
- Die Inferenzleistung für Aufgaben wie Objekterkennung, Klassifizierung und Sentiment-Analyse zu optimieren.
- Echtzeit-CV/NLP-Pipelines für Edge- oder Cloud-basierte Bereitstellungen aufzubauen.
Kursformat
- Interaktive Vorträge und Demonstrationen.
- Praktische Laboreinheiten mit Modellsbereitstellung und Leistungsprofilierung.
- Live-Pipelinedesign anhand realer CV- und NLP-Anwendungsfälle.
Möglichkeiten zur Kursanpassung
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Erstellung benutzerdefinierter KI-Operatoren mit CANN TIK und TVM
14 StundenMit CANN TIK (Tensor Instruction Kernel) und Apache TVM lassen sich fortschrittliche Optimierungen und individuelle Anpassungen von KI-Modelloperatoren für Huawei-Ascend-Hardware durchführen.
Diese instruktionsgeleitete Live-Schulung (online oder vor Ort) richtet sich an fortgeschrittene Systementwickler, die benutzerdefinierte Operatoren für KI-Modelle mit Hilfe des TIK-Programmierungsmodells von CANN und der TVM-Compiler-Integration erstellen, bereitstellen und optimieren möchten.
Nach Abschluss dieser Schulung sind die Teilnehmenden in der Lage:
- Benutzerdefinierte KI-Operatoren mit der TIK DSL für Ascend-Prozessoren zu schreiben und zu testen.
- Benutzerdefinierte Operatoren in die CANN-Laufzeitumgebung und die Ausführungsgraphen zu integrieren.
- TVM für das Operator-Scheduling, das Auto-Tuning und die Leistungsbewertung zu nutzen.
- Den Leistungsablauf auf Befehlsebene für benutzerdefinierte Berechnungsmuster zu debuggen und zu optimieren.
Kursformat
- Interaktive Vorlesung und Demonstration.
- Praktisches Programmieren von Operatoren mit TIK- und TVM-Pipelines.
- Testen und Tuning auf Ascend-Hardware oder Simulatoren.
Optionen zur Kursanpassung
- Wenn Sie eine maßgeschneiderte Schulung für diesen Kurs wünschen, kontaktieren Sie uns bitte zur Vereinbarung.
Angewandtes Edge AI
35 StundenKombinieren Sie die transformative Kraft der KI mit der Agilität des Edge Computing in diesem umfassenden Kurs. Lernen Sie, wie Sie KI-Modelle direkt auf Edge-Geräten bereitstellen können – von der Auseinandersetzung mit CNN-Architekturen bis zur Beherrschung von Knowledge Distillation und Federated Learning. Dieses praxisorientierte Training wird Ihnen die Fähigkeiten vermitteln, um die KI-Leistung für Echtzeitverarbeitung und Entscheidungsfindung am Edge zu optimieren.
Edge AI für die Landwirtschaft: Intelligentes Farming und präzise Überwachung
21 StundenDiese dozentengeleitete Live-Schulung in Österreich (online oder vor Ort) richtet sich an Agrartechnik-Profis sowie IoT-Spezialisten und KI-Ingenieure vom Einsteiger- bis zum Fortgeschrittenenniveau, die Edge-AI-Lösungen für intelligentes Farming entwickeln und bereitstellen möchten.
Am Ende dieser Schulung werden die Teilnehmer:
- Die Rolle von Edge AI in der präzisen Landwirtschaft verstehen.
- KI-gestützte Überwachungssysteme für Nutzpflanzen und Viehbestände implementieren können.
- Automatische Bewässerungs- und Umgebungssensorlösungen entwickeln können.
- Die landwirtschaftliche Effizienz mithilfe von Echtzeit-Edge-AI-Analysen optimieren können.