Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Dauer 21 Stunden
Schulungsübersicht
Grundlagen: Threat-Modelle für Agentic AI
- Typen agentic Threats: Missbrauch, Eskalation, Datenlecks und Supply-Chain-Risiken
- Adversary-Profile und Angreiferfähigkeiten, die spezifisch für autonome Agenten sind
- Kartierung von Assets, Vertrauensgrenzen und kritischen Kontrollpunkten für Agenten
Governance, Richtlinien und Risikomanagement
- Governance-Rahmenwerke für agentische Systeme (Rollen, Verantwortlichkeiten, Genehmigungsgrenzen)
- Gestaltung von Richtlinien: Zulässige Nutzung, Eskalationsregeln, Datenbehandlung und Auditierbarkeit
- Compliance-Betrachtungen und Sammlung von Beweismitteln für Audits
Nicht-menschliche Identität und Authentifizierung für Agenten
- Gestaltung von Identitäten für Agenten: Service Accounts, JWTs und kurzlebige凭zweise
- Zugriffsmuster mit geringster Berechtigung und Just-in-Time-Credentialing
- Identitätslebenszyklus, Rotation, Delegierung und Widerrufsstrategien
Zugriffskontrollen, Secrets und DatenSchutz
- Detaillierte Zugriffssteuerungsmodelle und capability-basierte Muster für Agenten
- Verwaltung von Secrets, Verschlüsselung in Transit und bei Speicherung sowie Datenminimierung
- Schutz sensibler Wissensquellen und personenbezogener Daten (PII) vor unbefugtem Agentenzugriff
Observability, Auditing und Incident Response
- Gestaltung von Telemetrie für Agentenverhalten: Intent-Tracking, Befehlsprotokolle und Herkunftsnachweise
- SIEM-Integration, Alerting-Schwellenwerte und forensische Bereitschaft
- Runbooks und Playbooks für agentenbezogene Vorfälle und Eindämmungsmaßnahmen
Red-Teaming agentic Systeme
- Planung von Red-Team-Übungen: Umfang, Regelwerk und sichere Fallbacks
- Adversariale Techniken: Prompt Injection, Missbrauch von Tools, Manipulation der Thought-Chain und API-Missbrauch
- Durchführung kontrollierter Angriffe und Messung von Exposition und Auswirkungen
Härtung und Minderungsmaßnahmen
- Technische Sicherheitsmaßnahmen: Response-Throttling, Capability-Gating und Sandboxing
- Richtlinien- und Orchestrierungskontrollen: Genehmigungsflüsse, Human-in-the-Loop und Governance-Hooks
- Abwehr auf Modell- und Prompt-Ebene: Eingabevalidierung, Kanonisierung und Ausgabe-Filter
Operationalisierung sicherer Agenten-Bereitstellungen
- Bereitstellungsmuster: Staging, Canary und progressive Rollout für Agenten
- Change Control, Test-Pipelines und Sicherheitsprüfungen vor der Bereitstellung
- Querfunktionales Governance: Playbooks für Security, Recht, Produkt und Betrieb
Capstone: Red-Team- / Blue-Team-Übung
- Durchführung eines simulierten Red-Team-Angriffs auf eine sandboxte Agentenumgebung
- Verteidigung, Erkennung und Behebung als Blue Team unter Nutzung von Kontrollen und Telemetrie
- Präsentation der Befunde, des Sanierungsplans und von Richtlinienupdates
Zusammenfassung und nächste Schritte
Voraussetzungen
- Fundierte Kenntnisse in Security Engineering, Systemadministration oder Cloud-Betrieb
- Vertrautheit mit KI-/ML-Konzepten und dem Verhalten von Large Language Models (LLMs)
- Erfahrung im Bereich Identity & Access Management (IAM) und der sichereren Systemgestaltung
Zielgruppe
- Security Engineers und Red-Teamer
- KI-Operations- und Plattform-Ingenieure
- Compliance-Beauftragte und Risikomanager
- Engineering-Leads, die für Agenten-Bereitstellungen verantwortlich sind
Erfahrungsberichte (1)
Erfassung und Identifizierung der verschiedenen Risikobereiche im Zusammenhang mit KI
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Maschinelle Übersetzung