Kontakt aufnehmen
 Dauer 21 Stunden

Schulungsübersicht

Grundlagen: Threat-Modelle für Agentic AI

  • Typen agentic Threats: Missbrauch, Eskalation, Datenlecks und Supply-Chain-Risiken
  • Adversary-Profile und Angreiferfähigkeiten, die spezifisch für autonome Agenten sind
  • Kartierung von Assets, Vertrauensgrenzen und kritischen Kontrollpunkten für Agenten

Governance, Richtlinien und Risikomanagement

  • Governance-Rahmenwerke für agentische Systeme (Rollen, Verantwortlichkeiten, Genehmigungsgrenzen)
  • Gestaltung von Richtlinien: Zulässige Nutzung, Eskalationsregeln, Datenbehandlung und Auditierbarkeit
  • Compliance-Betrachtungen und Sammlung von Beweismitteln für Audits

Nicht-menschliche Identität und Authentifizierung für Agenten

  • Gestaltung von Identitäten für Agenten: Service Accounts, JWTs und kurzlebige凭zweise
  • Zugriffsmuster mit geringster Berechtigung und Just-in-Time-Credentialing
  • Identitätslebenszyklus, Rotation, Delegierung und Widerrufsstrategien

Zugriffskontrollen, Secrets und DatenSchutz

  • Detaillierte Zugriffssteuerungsmodelle und capability-basierte Muster für Agenten
  • Verwaltung von Secrets, Verschlüsselung in Transit und bei Speicherung sowie Datenminimierung
  • Schutz sensibler Wissensquellen und personenbezogener Daten (PII) vor unbefugtem Agentenzugriff

Observability, Auditing und Incident Response

  • Gestaltung von Telemetrie für Agentenverhalten: Intent-Tracking, Befehlsprotokolle und Herkunftsnachweise
  • SIEM-Integration, Alerting-Schwellenwerte und forensische Bereitschaft
  • Runbooks und Playbooks für agentenbezogene Vorfälle und Eindämmungsmaßnahmen

Red-Teaming agentic Systeme

  • Planung von Red-Team-Übungen: Umfang, Regelwerk und sichere Fallbacks
  • Adversariale Techniken: Prompt Injection, Missbrauch von Tools, Manipulation der Thought-Chain und API-Missbrauch
  • Durchführung kontrollierter Angriffe und Messung von Exposition und Auswirkungen

Härtung und Minderungsmaßnahmen

  • Technische Sicherheitsmaßnahmen: Response-Throttling, Capability-Gating und Sandboxing
  • Richtlinien- und Orchestrierungskontrollen: Genehmigungsflüsse, Human-in-the-Loop und Governance-Hooks
  • Abwehr auf Modell- und Prompt-Ebene: Eingabevalidierung, Kanonisierung und Ausgabe-Filter

Operationalisierung sicherer Agenten-Bereitstellungen

  • Bereitstellungsmuster: Staging, Canary und progressive Rollout für Agenten
  • Change Control, Test-Pipelines und Sicherheitsprüfungen vor der Bereitstellung
  • Querfunktionales Governance: Playbooks für Security, Recht, Produkt und Betrieb

Capstone: Red-Team- / Blue-Team-Übung

  • Durchführung eines simulierten Red-Team-Angriffs auf eine sandboxte Agentenumgebung
  • Verteidigung, Erkennung und Behebung als Blue Team unter Nutzung von Kontrollen und Telemetrie
  • Präsentation der Befunde, des Sanierungsplans und von Richtlinienupdates

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Fundierte Kenntnisse in Security Engineering, Systemadministration oder Cloud-Betrieb
  • Vertrautheit mit KI-/ML-Konzepten und dem Verhalten von Large Language Models (LLMs)
  • Erfahrung im Bereich Identity & Access Management (IAM) und der sichereren Systemgestaltung

Zielgruppe

  • Security Engineers und Red-Teamer
  • KI-Operations- und Plattform-Ingenieure
  • Compliance-Beauftragte und Risikomanager
  • Engineering-Leads, die für Agenten-Bereitstellungen verantwortlich sind

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (1)

Kommende Kurse

Verwandte Kategorien