Kontakt aufnehmen

Schulungsübersicht

Grundlagen von NiFi und Datenfluss

  • Daten in Bewegung vs. Daten im Ruhezustand: Konzepte und Herausforderungen
  • NiFi-Architektur: Kerne, Flow-Controller, Provenance (Datenspur) und Bulletin (Mitteilungen)
  • Wichtige Komponenten: Prozessoren, Verbindungen, Controller und Provenance

Big-Data-Kontext und Integration

  • Rolle von NiFi in Big-Data-Ökosystemen (Hadoop, Kafka, Cloud-Speicher)
  • Überblick über HDFS, MapReduce und moderne Alternativen
  • Anwendungsfälle: Stream-Ingestion, Protokollversand, Ereignispipelines

Installation, Konfiguration und Cluster-Einrichtung

  • Installation von NiFi im Einzelknotenmodus und im Clustermodus
  • Clusterkonfiguration: Knotenrollen, Zookeeper und Lastverteilung
  • Orchestrierung von NiFi-Bereitstellungen: Verwendung von Ansible, Docker oder Helm

Entwerfen und Verwalten von Datenflüssen

  • Weiterleitung, Filterung, Aufteilung und Zusammenführung von Flüssen
  • Konfiguration von Prozessoren (InvokeHTTP, QueryRecord, PutDatabaseRecord usw.)
  • Umgang mit Schemata, Anreicherung und Transformationsoperationen
  • Fehlerbehandlung, Retry-Beziehungen und Backpressure

Integrationsszenarien

  • Verbindung zu Datenbanken, Messaging-Systemen und REST-APIs
  • Streaming an Analytiesysteme: Kafka, Elasticsearch oder Cloud-Speicher
  • Integration mit Splunk, Prometheus oder Protokollierungspipelines

Überwachung, Wiederherstellung und Provenance (Datenspur)

  • Nutzung der NiFi-Benutzeroberfläche, Metriken und des Provenance-Visualisierers
  • Entwurf autonomer Wiederherstellung und sanfter Fehlerbehandlung
  • Sicherung, Flow-Versionierung und Änderungsmanagement

Leistungsverbesserung und Optimierung

  • Feinabstimmung von JVM, Heap-Speicher, Thread-Pools und Clustereinstellungen
  • Optimierung des Flow-Designs zur Reduzierung von Engpässen
  • Ressourcenisolation, Priorisierung von Flüssen und Durchsatzsteuerung

Best Practices und Governance

  • Flussdokumentation, Namensstandards und modulares Design
  • Sicherheit: TLS, Authentifizierung, Zugriffskontrolle und Datenverschlüsselung
  • Änderungskontrolle, Versionierung, rollenbasierter Zugriff und Audit-Trails

Fehlerbehebung und Incident Response

  • Häufige Probleme: Deadlocks, Speicherverluste, Prozessorfehler
  • Protokol analysieren, Fehlerdiagnose und Untersuchung der Ursache auf.Root Ebene
  • Wiederherstellungsstrategien und Flow-Rollback

Praxisübungen: Implementierung einer realistischen Datenpipeline

  • Aufbau eines durchgehenden Flusses: Ingestion, Transformation, Zustellung
  • Implementierung von Fehlerbehandlung, Backpressure und Skalierung
  • Leistungstests und Feinabstimmung der Pipeline

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Erfahrung mit der Linux-Befehlszeile
  • Grundlegendes Verständnis von Netzwerken und Datenvorhaben
  • Erste Kenntnisse in den Bereichen Datenstreaming oder ETL-Konzepte

Zielgruppe

  • Systemadministratoren
  • Data Engineers
  • Entwickler
  • DevOps-Fachleute
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (7)

Kommende Kurse

Verwandte Kategorien