Schulungsübersicht

Überblick über die LLM-Architektur und das Angriffsspektrum

  • Wie LLMs erstellt, bereitgestellt und über APIs zugänglich gemacht werden
  • Kritische Komponenten in LLM-App-Stacks (z.B. Prompts, Agents, Speicher, APIs)
  • Wo und wie Sicherheitsprobleme bei der tatsächlichen Nutzung auftreten

Prompt-Injektion und Jailbreak-Angriffe

  • Was Prompt-Injektion ist und warum sie gefährlich ist
  • Direkte und indirekte Szenarien von Prompt-Injektion
  • Taktiken zur Umgehung von Sicherheitsfiltern durch Jailbreaking
  • Erkennungs- und Gegenmaßnahmen

Datenleckage und Datenschutzrisiken

  • Zufällige Datenexposition durch Antworten
  • PII-Lekken und Missbrauch von Modellspeicher
  • Gestaltung datenschutzbewusster Prompts und retrieval-augmented Generation (RAG)

Filterung und Schutz der LLM-Ausgabe

  • Nutzung von Guardrails AI zur Inhaltsfilterung und -validierung
  • Definition von Ausgabeschemata und -beschränkungen
  • Überwachung und Protokollierung unsicherer Ausgaben

Menschen-im-Schleifengang- und Workflow-Ansätze

  • Wo und wann menschliche Überwachung eingeführt werden sollte
  • Bewilligungsqueues, Bewertungsschwelle, Fallback-Behandlung
  • Ausgleich von Vertrauen und die Rolle der Erklärbarkeit

Sichere LLM-App Design Patterns

  • Least privilege und Sandboxing für API-Aufrufe und Agents
  • Begrenzung der Rate, Drosselung und Missbrauchs-Erkennung
  • Robuste Verkettung mit LangChain und Prompt-Isolation

Konformität, Logging und Governance

  • Sicherstellung der Prüfbarkeit von LLM-Ausgaben
  • Aufrechterhaltung der Spurenverfolgbarkeit und Prompt-/Versionenkontrolle
  • Anpassung an interne Sicherheitsrichtlinien und regulatorische Anforderungen

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Eine Verständnis von großen Sprachmodellen und prompt-basierten Schnittstellen
  • Erfahrung bei der Erstellung von LLM-Anwendungen unter Verwendung von Python
  • Bekanntschaft mit API-Integrationen und cloudbasierten Bereitstellungen

Zielgruppe

  • AI-Entwickler
  • Anwendungsentwickler und Lösungsarchitekten
  • Technische Produktmanager, die mit LLM-Werkzeugen arbeiten
 14 Stunden

Teilnehmerzahl


Price per participant (excl. VAT)

Kommende Kurse

Verwandte Kategorien