Red Teaming bei KI-Systemen: Offensive Sicherheit für ML-Modelle Schulung

AAISM ist ein fortgeschrittenes Framework zur Bewertung, Steuerung und Verwaltung von Sicherheitsrisiken in künstlichen Intelligenz-Systemen.

Diese vom Dozenten geleitete Live-Schulung (online oder vor Ort) richtet sich an erfahrene Fachkräfte, die effektive Sicherheitskontrollen und Governance-Praktiken für KI-Umgebungen in Unternehmen implementieren möchten.

Nach Abschluss dieses Programms sind die Teilnehmer in der Lage:

• KI-Sicherheitsrisiken mithilfe branchenweit anerkannter Methoden zu bewerten.
• Governance-Modelle für den verantwortungsvollen Einsatz von KI zu implementieren.
• KI-Sicherheitsrichtlinien an organisatorischen Zielen und regulatorischen Anforderungen auszurichten.
• Die Widerstandsfähigkeit und Verantwortlichkeit in KI-gestützten Prozessen zu stärken.

Kursformat

• Geführte Vorträge, ergänzt durch expertenbasierte Analysen.
• Praktische Workshops und bewertungsbasierte Aktivitäten.
• Angeleitete Übungen an realen KI-Governance-Szenarien.

Maßschneiderungsoptionen des Kurses

• Für eine auf Ihre unternehmensspezifische KI-Strategie abgestimmte Schulung kontaktieren Sie uns bitte zur Anpassung des Kurses.

Dieses instruktionsgeleitete, live stattfindende Training in Österreich (online oder vor Ort) richtet sich an erfahrene Führungskräfte aus dem Mittel- und oberen Management, die verstehen möchten, wie sie KI-Systeme verantwortungsvoll und im Einklang mit aufkommenden globalen Rahmenwerken wie der EU-KI-Verordnung, der DSGVO, ISO/IEC 42001 sowie der US-amerikanischen Exekutivverordnung zu KI verwalten und absichern können.

Am Ende dieses Trainings werden die Teilnehmenden in der Lage sein:

• Die rechtlichen, ethischen und regulatorischen Risiken des KI-Einsatzes über Abteilungen hinweg zu verstehen.
• Wichtige KI-Governance-Rahmenwerke (EU-KI-Verordnung, NIST AI RMF, ISO/IEC 42001) zu interpretieren und anzuwenden.
• Richtlinien für Sicherheit, Prüfung und Aufsicht bei der Einführung von KI im Unternehmen zu etablieren.
• Leitlinien für die Beschaffung und Nutzung von KI-Systemen Dritter sowie interner Systeme zu entwickeln.

Künstliche Intelligenz (KI) bringt neue Dimensionen operativer Risiken, Governance-Herausforderungen und Cybersecurity-Belastungen für Regierungsbehörden und -abteilungen mit sich.

Dieser von Instruktoren geleitete Live-Training (online oder vor Ort) richtet sich an IT- und Risikoprofis im öffentlichen Sektor mit begrenzter Vorerfahrung in KI, die verstehen möchten, wie man KI-Systeme im staatlichen oder regulatorischen Kontext bewerten, überwachen und absichern kann.

Am Ende dieses Trainings können Teilnehmer:

• Schlüsselrisikokonzepte im Zusammenhang mit KI-Systemen interpretieren, darunter Bias, Unvorhersehbarkeit und Modelldrift.
• KI-spezifische Governance- und Audit-Frameworks wie NIST AI RMF und ISO/IEC 42001 anwenden.
• Cybersecurity-Bedrohungen erkennen, die auf KI-Modelle und Datenpipelines abzielen.
• Abteilungsübergreifende Risikomanagementpläne und Politikabstimmungen für die KI-Einführung etablieren.

Form des Kurses

• Interaktive Vorträge und Diskussionen zu Anwendungsfällen im öffentlichen Sektor.
• Übungen zur KI-Governance und Politikzuordnung.
• Szenariobasierte Bedrohungsmodellierung und Risikobewertung.

Möglichkeiten zur Anpassung des Kurses

• Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte.

Dieser Kurs bietet eine praktische Einführung in die Sicherung moderner KI-gestützter Anwendungen, APIs, Copilots und autonomer Agenten. Die Teilnehmenden lernen, wie sich die KI-Sicherheit von der traditionellen Websicherheit unterscheidet, erkunden gängige kIspezifische Bedrohungen wie Prompt Injection, RAG-Poisoning und Agent-Missbrauch und verstehen, wie KI-Systeme mit geschichteten Verteidigungsmaßnahmen einschließlich WAFs, KI-Gateways, API-Sicherheit und Guardrails geschützt werden können. Durch praxisnahe Labs und reale Beispiele erwerben die Teilnehmenden die Fähigkeiten, KI-Angriffsmuster zu identifizieren, LLM-basierte Anwendungen zu sichern und effektive Laufzeitschutzmaßnahmen für Produktionsumgebungen bereitzustellen.

Dieses von Dozent:innen geleitete, live stattfindende Training in Österreich (online oder vor Ort) richtet sich an IT-Fachkräfte mit Grundlagenwissen bis zu mittlerem Niveau, die das Verständnis für AI TRiSM vertiefen und in ihren Organisationen implementieren möchten.

Am Ende dieses Trainings werden die Teilnehmer:innen in der Lage sein:

• Die Kernkonzepte und die Bedeutung des Vertrauens, Risikomanagements und der Sicherheit im KI-Kontext zu verstehen.
• Risiken, die mit KI-Systemen verbunden sind, zu identifizieren und zu mindern.
• Sicherheits-Best Practices für KI umzusetzen.
• Die regulatorische Compliance und ethischen Aspekte der KI zu verstehen.
• Strategien für eine effektive KI-Steuerung und -Verwaltung zu entwickeln.

Dieses instruktorgeführte Live-Training in Österreich (online oder vor Ort) richtet sich an Entwickler:innen, Architekt:innen und Produktmanager:innen mit mittlerem bis fortgeschrittenem Kenntnisstand im Bereich KI, die Risiken identifizieren und minimieren möchten, die durch LLM-gestützte Anwendungen entstehen – darunter Prompt-Injection, Datenlecks sowie unkontrollierte Ausgabedaten. Dabei werden Sicherheitskontrollen wie Eingabevalidierung, menschliche Aufsicht (Human-in-the-Loop) und Ausgaben-Guardrails integriert.

Nach Abschluss dieses Trainings sind die Teilnehmer:innen in der Lage:

• die wesentlichen Schwachstellen von LLM-basierten Systemen zu verstehen
• sichere Designprinzipien auf die Architektur von LLM-Anwendungen anzuwenden
• Werkzeuge wie Guardrails AI und LangChain zur Validierung, Filterung und Erhöhung der Sicherheit einzusetzen
• Techniken wie Sandboxing, Red-Teaming und menschliche Review-Schleifen in produktionsreifen Pipelines zu integrieren

Dieser Kurs vermittelt Softwareentwicklern, wie sie KI-gestützte Anwendungen sicher-by-Design entwickeln. Die Teilnehmenden lernen, Chatbots, Copilots, RAG-Pipelines und KI-Agenten gegen KI-spezifische Bedrohungen wie Prompt-Injection, Datenvergiftung, Tool-Missbrauch, das Auslaufen von Geheimnissen und unsichere Modellausgaben zu schützen. Der Kurs deckt sicheres Prompt-Design, RAG-Sicherheit, Least-Privilege-Zugriff, Guardrails und Red-Team-Tests ab, um Entwicklern zu helfen, KI-Features zu bauen, die in realen Umgebungen sicher, zuverlässig und widerstandsfähig sind.

Diese dozentengeleitete, live stattfindende Schulung in Österreich (online oder vor Ort) richtet sich an Mittelbau-Professionals aus den Bereichen KI und Cybersicherheit, die die spezifischen Sicherheitsanfälligkeiten von KI-Modellen und -Systemen verstehen und adressieren möchten, insbesondere in stark regulierten Branchen wie dem Finanzwesen, der Datenverwaltung und der Unternehmensberatung.

Nach Abschluss dieser Schulung sind die Teilnehmer in der Lage:

• Die Arten adversärer Angriffe auf KI-Systeme zu verstehen und Gegenmaßnahmen anzuwenden.
• Techniken zur Härtung von Modellen implementieren, um Machine-Learning-Pipelines zu schützen.
• Datensicherheit und Integrität in Machine-Learning-Modellen gewährleisten.
• Sich durch die regulatorischen Compliance-Anforderungen im Zusammenhang mit der KI-Sicherheit navigieren.

Dieses live angebotene Training in Österreich (online oder vor Ort) richtet sich an Sicherheitsexperten und Compliance-Verantwortliche, die EXO-Bereitstellungen härten, den Modellzugriff kontrollieren und KI-Workloads, die vollständig auf eigenen Servern laufen, steuern möchten.

Dieses unter der Leitung eines Dozenten durchgeführte Live-Training in Österreich (online oder vor Ort) richtet sich an Einsteiger:innen im Bereich der IT-Sicherheit, des Risikomanagements und der Compliance, die grundlegende Konzepte der KI-Sicherheit, Bedrohungsvektoren sowie globale Rahmenwerke wie den NIST AI RMF und ISO/IEC 42001 verstehen möchten.

Am Ende dieses Trainings werden die Teilnehmer:innen in der Lage sein:

• Die einzigartigen Sicherheitsrisiken zu verstehen, die durch KI-Systeme entstehen.
• Bedrohungsvektoren wie adversariale Angriffe, Data Poisoning und Model Inversion zu identifizieren.
• Fundierte Governance-Modelle wie den NIST AI Risk Management Framework anzuwenden.
• Den Einsatz von KI mit neuen Standards, Compliance-Richtlinien und ethischen Grundsätzen in Einklang zu bringen.

Diese von einem Dozenten geleitete Live-Schulung in Österreich (online oder vor Ort) richtet sich an Sicherheits- und ML-Ingenieure, die Angriffe auf ML-Modelle und LLM-gestützte Anwendungen identifizieren, testen und abwehren müssen.

Basierend auf den neuesten Leitlinien des OWASP GenAI Security Project lernen Teilnehmende, KI-spezifische Bedrohungen durch praktische Übungen und reale Szenarien zu identifizieren, einzuschätzen und abzumildern.

Dieses von einem Dozenten geleitete Live-Training in Österreich (online oder vor Ort) richtet sich an fortgeschrittene Fachkräfte, die Techniken wie Federated Learning, Secure Multiparty Computation, Homomorphic Encryption und Differential Privacy in praxisorientierten Machine-Learning-Pipelines implementieren und evaluieren möchten.

Am Ende dieses Trainings werden die Teilnehmer:

• Schlüsseltechniken zum Datenschutz im Machine Learning verstehen und vergleichen können.
• Federated-Learning-Systeme mit Open-Source-Frameworks implementieren können.
• Differential Privacy für sicheres Data-Sharing und Modelltraining anwenden können.
• Verschlüsselungs- und Secure-Computation-Techniken einsetzen können, um Eingaben und Ausgaben von Modellen zu schützen.

Dieses live angebotene Training in Österreich (online oder vor Ort) richtet sich an Ingenieur:innen und Sicherheitsfachkräfte mit mittlerem Kenntnisstand, die AI-Modelle am Edge gegen Bedrohungen wie Manipulation, Datenleckage, adversäre Eingaben und physische Angriffe schützen möchten.

Am Ende dieses Trainings können die Teilnehmenden:

• Sicherheitsrisiken in Edge-AI-Umgebungen identifizieren und bewerten.
• Techniken zur Tamper-Resistance und verschlüsselten Inferenz anwenden.
• am Edge bereitgestellte Modelle härten und Datenpipelines absichern.
• Bedrohminderungsstrategien implementieren, die speziell für eingebettete und ressourcenbeschränkte Systeme entwickelt wurden.

Dieses instruktionsgeleitete Live-Training in Österreich (online oder vor Ort) richtet sich an Fachkräfte im mittleren Bereich mit Hintergrund in Machine Learning und Cybersicherheit, die aufstrebende Gefahren für KI-Modelle verstehen und eindämmen möchten. Dabei kommen sowohl konzeptionelle Rahmenwerke als auch praktische Abwehrmaßnahmen wie robustes Training und differentielle Privatsphäre zum Einsatz.

Am Ende dieses Trainings können Teilnehmende:

• KI-spezifische Bedrohungen wie adversarische Angriffe, Inversion und Poisoning erkennen und klassifizieren.
• Tools wie die Adversarial Robustness Toolbox (ART) nutzen, um Angriffe zu simulieren und Modelle zu testen.
• Praktische Abwehrmaßnahmen anwenden, darunter adversariales Training, Rauschinjektion und datenschutzfreundliche Techniken.
• Bedrohungs-aware (bedrohungsbewusste) Strategien zur Modellauswertung in Produktionsumgebungen entwerfen.