Kontakt aufnehmen

Schulungsübersicht

Grundlagen von NiFi und Datenfluss

  • Daten in Bewegung vs. Daten in Ruhe: Konzepte und Herausforderungen
  • NiFi-Architektur: Cores, Flow Controller, Provenance und Bulletin
  • Wichtige Komponenten: Prozessoren, Verbindungen, Controller und Provenance

Big-Data-Kontext und Integration

  • Rolle von NiFi in Big-Data-Ökosystemen (Hadoop, Kafka, Cloud-Speicher)
  • Überblick über HDFS, MapReduce und moderne Alternativen
  • Anwendungsfälle: Stream-Ingestion, Log-Shipping, Ereignispipelines

Installation, Konfiguration und Cluster-Einrichtung

  • Installation von NiFi im Einzelknoten- und Clustermodus
  • Clusterkonfiguration: Knotenrollen, Zookeeper und Lastverteilung
  • Orchestrierung von NiFi-Bereitstellungen: Nutzung von Ansible, Docker oder Helm

Gestaltung und Verwaltung von Datenflüssen

  • Routierung, Filterung, Aufspaltung und Zusammenführung von Flüssen
  • Konfiguration von Prozessoren (InvokeHTTP, QueryRecord, PutDatabaseRecord, etc.)
  • Handhabung von Schemata, Anreicherung und Transformationsoperationen
  • Fehlerbehandlung, Retry-Beziehungen und Backpressure

Integrationszenarien

  • Anbindung an Datenbanken, Nachrichtensysteme und REST-APIs
  • Streaming zu Analytiksystemen: Kafka, Elasticsearch oder Cloud-Speicher
  • Integration mit Splunk, Prometheus oder Logging-Pipelines

Überwachung, Wiederherstellung und Provenance

  • Nutzung der NiFi-Oberfläche, Metriken und des Provenance-Visualisierers
  • Gestaltung autonomer Wiederherstellungsprozesse und behutsamer Fehlerbehandlung
  • Sicherung, Flussversionierung und Änderungsmanagement

Performance-Tuning und Optimierung

  • Tuning von JVM, Heap, Thread-Pools und Clustering-Parametern
  • Optimierung des Flussdesigns zur Reduzierung von Engpässen
  • Ressourcenisolierung, Flusspriorisierung und Durchsatzkontrolle

Best Practices und Governance

  • Flussdokumentation, Namenskonventionen, modulares Design
  • Sicherheit: TLS, Authentifizierung, Zugriffskontrolle, Datenverschlüsselung
  • Änderungskontrolle, Versionierung, rollenbasierter Zugriff, Audit-Protokolle

Fehlersuche und Incident Response

  • Häufige Probleme: Deadlocks, Speicherlecks, Processor-Fehler
  • Log-Analyse, Fehlerdiagnose und Ursachenforschung
  • Wiederherstellungsstrategien und Fluss-Rollback

Praxislabor: Realistische Implementierung einer Datenpipeline

  • Aufbau eines End-to-End-Flusses: Ingestion, Transformation, Zustellung
  • Implementierung von Fehlerbehandlung, Backpressure und Skalierung
  • Performance-Tests und Tuning der Pipeline

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Erfahrung mit der Linux-Befehlszeile
  • Grundlegendes Verständnis von Netzwerken und Datensystemen
  • Bekanntschaft mit Konzepten des Datenstroms oder ETL (Extraction, Transformation, Loading)

Zielgruppe

  • Systemadministratoren
  • Data Engineers
  • Entwickler
  • DevOps-Profis
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (7)

Kommende Kurse

Verwandte Kategorien