Kontakt aufnehmen

Schulungsübersicht

Grundlagen agenticer Systeme in der Produktion

  • Agentic-Architekturen: Schleifen, Tools, Speicher und Orchestrierungsebenen
  • Lebenszyklus von Agents: Entwicklung, Bereitstellung und Dauerbetrieb
  • Herausforderungen des Agent-Managements im Produktionsmaßstab

Infrastruktur- und Bereitstellungsmodelle

  • Bereitstellung von Agents in containerisierten und Cloud-Umgebungen
  • Skalierungsmuster: horizontale vs. vertikale Skalierung, Parallelität und Drosselung
  • Multi-Agent-Orchestrierung und Workload-Balancing

Überwachung und Observability

  • Schlüsselkennzahlen: Latenz, Erfolgsrate, Speicherauslastung und Agent-Aufruftiefe
  • Nachverfolgung von Agent-Aktivitäten und Aufrufgrafiken
  • Instrumentierung der Observability mit Prometheus, OpenTelemetry und Grafana

Logging, Prüfung und Compliance

  • Zentrale Protokollierung und strukturierte Ereignissammlung
  • Compliance und Prüfbbarkeit in agenticen Workflows
  • Entwurf von Prüfprotokollen (Audit Trails) und Wiedergabemechanismen zum Debugging

Leistungsoptimierung und Ressourcenoptimierung

  • Reduzierung des Inferenz-Overheads und Optimierung der Agent-Orchestrierungszyklen
  • Modell-Caching und leichtgewichtige Embeddings für schnellere Abfragen
  • Lasttests und Stressszenarien für KI-Pipelines

Kostenkontrolle und Governance

  • Verständnis der Kostentreiber von Agents: API-Aufrufe, Speicher, Rechenleistung und externe Integrationen
  • Verfolgung der Kosten auf Agent-Ebene und Implementierung von Cost-Back-Modellen
  • Automatisierungspolitiken zur Vermeidung von Agent Sprawl und Ressourcenverschwendung durch Leerlauf

CI/CD- und Bereitstellungsstrategien für Agents

  • Integration von Agent-Pipelines in CI/CD-Systeme
  • Test-, Versionierungs- und Rollback-Strategien für iterative Agent-Updates
  • Progressive Bereitstellungen und sichere Deploymentsmechanismen

Fehlerwiederherstellung und Zuverlässigkeitsengineering

  • Entwurf für Fehlertoleranz und graceful degradation (kontrollierter Leistungsabfall)
  • Retry-, Timeout- und Circuit-Breaker-Patterns für die Zuverlässigkeit von Agents
  • Incident Response und Post-Mortem-Frameworks für KI-Betriebsprozesse

Abschlussprojekt

  • Aufbau und Bereitstellung eines agenticen KI-Systems mit voller Überwachung und Kostenverfolgung
  • Simulation der Last, Messung der Leistung und Optimierung der Ressourcennutzung
  • Präsentation der finalen Architektur und des Observability-Dashboards an die Kollegen

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Fundiertes Verständnis von MLOps und produktionsreifen Machine-Learning-Systemen
  • Erfahrung mit containerisierten Bereitstellungen (Docker/Kubernetes)
  • Vertrautheit mit Cloud-Kostenoptimierung und Observability-Tools

Zielgruppe

  • MLOps-Ingenieure
  • Site Reliability Engineers (SREs)
  • Engineering-Manager, die für KI-Infrastruktur verantwortlich sind
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (3)

Kommende Kurse

Verwandte Kategorien