Schulungsübersicht
Einführung in Edge-AI und eingebettete Systeme
- Was ist Edge-AI? Anwendungsfälle und Einschränkungen
- Hardwareplattformen und Software-Stacks am Edge
- Sicherheitsherausforderungen in eingebetteten und dezentralen Umgebungen
Bedrohungslandschaft für Edge-AI
- Risiken durch physischen Zugriff und Manipulation
- Adversariale Beispiele und Modellmanipulation
- Datenleckage und Bedrohungen durch Model Inversion
Sicherung des Modells
- Strategien zur Modellhärtung und Quantisierung
- Watermarking und Fingerprinting von Modellen
- Defensive Distillation und Pruning
Verschlüsselte Inferenz und sichere Ausführung
- Trusted Execution Environments (TEEs) für KI
- Sichere Enklaven und vertrauliche Datenverarbeitung (Confidential Computing)
- Verschlüsselte Inferenz mittels Homomorpher Verschlüsselung oder SMPC
Erkennung von Manipulationen und gerätespezifische Kontrollen
- Secure Boot und Firmware-Integritätsprüfungen
- Sensorvalidierung und Anomalieerkennung
- Remote Attestation und Überwachung der Gerätegesundheit
Integration der Edge-Cloud-Sicherheit
- Sichere Datenübertragung und Schlüsselmanagement
- Ende-zu-Ende-Verschlüsselung und Schutz des Datenlebenszyklus
- Cloud-KI-Orchestrierung unter Berücksichtigung von Edge-Sicherheitseinschränkungen
Best Practices und Strategie zur Risikominderung
- Threat Modeling für Edge-AI-Systeme
- Sicherheitsdesigngrundsätze für eingebettete Intelligenz
- Incident Response und Management von Firmware-Updates
Zusammenfassung und nächste Schritte
Voraussetzungen
- Grundlegendes Verständnis von eingebetteten Systemen oder Edge-AI-Bereitstellungsumgebungen
- Erfahrung mit Python und ML-Frameworks (z. B. TensorFlow Lite, PyTorch Mobile)
- Grundkenntnisse in Cybersecurity- oder IoT-Bedrohungsmodellen
Zielgruppe
- Entwickler:innen für eingebettete KI
- IoT-Sicherheitsspezialist:innen
- Ingenieur:innen, die ML-Modelle auf Edge- oder ressourcenbeschränkten Geräten bereitstellen
Erfahrungsberichte (2)
Ich habe viel Spaß beim Erlernen von KI-Angriffen und den verfügbaren Tools gehabt, um mit Sicherheitsprüfungen zu beginnen und diese aktiv einzusetzen. Ich habe viele neue Erkenntnisse gewonnen, die ich zuvor noch nicht hatte, und der Kurs hat meine Erwartungen erfüllt. Mein Lieblingsbereich aus dem Training war der Comet Browser, und ich war von seinen Möglichkeiten beeindruckt. Auf jeden Fall werde ich mich damit intensiver beschäftigen. Insgesamt war es ein großartiger Kurs, und ich habe das Lernen über die OWASP GenAI Top 10 sehr genossen.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Maschinelle Übersetzung
Das professionelle Wissen und die Art, wie er es uns präsentierte
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Maschinelle Übersetzung