Schulungsübersicht
Einführung in die Sicherheit bei TinyML
- Sicherheitsherausforderungen bei ressourcenbeschränkten ML-Systemen
- Bedrohungsmodelle für TinyML-Bereitstellungen
- Risikokategorien für eingebettete KI-Anwendungen
Datenschutz in Edge-AI
- Datenschutzaspekte bei der On-Device-Datenverarbeitung
- Minimierung der Datenaussetzung und Datenübertragung
- Techniken für die dezentrale Datenverarbeitung
Gegnerische Angriffe auf TinyML-Modelle
- Bedrohungen durch Model-Evasion und Model-Poisoning
- Manipulation der Eingaben über eingebettete Sensoren
- Bewertung der Anfälligkeit in ressourcenbeschränkten Umgebungen
Sicherheitsstärkung für eingebettetes ML
- Firmware- und Hardware-Schutzschichten
- Zugriffssteuerung und Mechanismen für den Secure Boot
- Best Practices zum Schutz von Inferenz-Pipelines
Datenschutzfreundliche TinyML-Techniken
- Quantisierung und Überlegungen zum Modelldesign unter Datenschutzaspekten
- Techniken zur On-Device-Anonymisierung
- Leichtgewichtige Verschlüsselung und Methoden für sichere Berechnungen
Sichere Bereitstellung und Wartung
- Sichere Provisioning von TinyML-Geräten
- OTA-Updates und Patching-Strategien
- Überwachung und Incident Response am Netzwerkrand
Testing und Validierung sicherer TinyML-Systeme
- Frameworks für Sicherheits- und Datenschutztests
- Simulation von realen Angriffsszenarien
- Aspekte der Validierung und Compliance
Fallbeispiele und Anwendungsszenarien
- Sicherheitsversagen in Edge-AI-Ökosystemen
- Entwurf resilienter TinyML-Architekturen
- Bewertung der Zielkonflikte zwischen Leistung und Schutz
Zusammenfassung und nächste Schritte
Voraussetzungen
- Verständnis für eingebettete Systemarchitekturen
- Erfahrung mit Machine-Learning-Workflows
- Kenntnisse in den Grundlagen der Cybersicherheit
Zielgruppe
- Sicherheitsexperten (Security Analysts)
- KI-Entwickler
- Ingenieure für eingebettete Systeme
Erfahrungsberichte (2)
Ich habe viel Spaß beim Erlernen von KI-Angriffen und den verfügbaren Tools gehabt, um mit Sicherheitsprüfungen zu beginnen und diese aktiv einzusetzen. Ich habe viele neue Erkenntnisse gewonnen, die ich zuvor noch nicht hatte, und der Kurs hat meine Erwartungen erfüllt. Mein Lieblingsbereich aus dem Training war der Comet Browser, und ich war von seinen Möglichkeiten beeindruckt. Auf jeden Fall werde ich mich damit intensiver beschäftigen. Insgesamt war es ein großartiger Kurs, und ich habe das Lernen über die OWASP GenAI Top 10 sehr genossen.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Maschinelle Übersetzung
Das professionelle Wissen und die Art, wie er es uns präsentierte
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Maschinelle Übersetzung