Data-Streaming und Echtzeitdatenverarbeitung Schulung

Diese instructor-led Live-Schulung in Österreich (online oder vor Ort) richtet sich an fortgeschrittene Datenfachkräfte, die ihre Datenverarbeitungs-Workflows optimieren, die Datenintegrität sicherstellen und robuste Lakehouse-Lösungen implementieren möchten, die den Komplexitäten moderner Big-Data-Anwendungen gewachsen sind.

Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:

• Ein tiefgreifendes Verständnis von Icebergs Architektur zu gewinnen, einschließlich Metadatenmanagement und Dateistruktur.
• Iceberg für optimale Leistung in verschiedenen Umgebungen zu konfigurieren und es mit mehreren Datenverarbeitungs-Engines zu integrieren.
• Große Iceberg-Tabellen zu verwalten, komplexe Schemaänderungen vorzunehmen und Partition-Evolution zu handhaben.
• Techniken zur Optimierung der Abfrageleistung und Effizienz des Datenscannings für große Datensätze zu meistern.
• Mechanismen zur Sicherstellung der Datenkonsistenz zu implementieren, Transaktionsgarantien zu verwalten und Ausfälle in verteilten Umgebungen zu behandeln.

Diese instruktionsgeleitete Live-Schulung in Österreich (online oder vor Ort) richtet sich an Anfänger im Bereich der Datenverarbeitung, die das nötige Wissen und die Fähigkeiten erwerben möchten, um Apache Iceberg effizient zum Management großer Datensätze einzusetzen, die Datenintegrität zu gewährleisten und Datenverarbeitungsprozesse zu optimieren.

Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:

• Ein umfassendes Verständnis von Architektur, Funktionen und Vorteilen von Apache Iceberg zu erlangen.
• Kenntnisse über Tabellenformate, Partitionierung, Schemaentwicklung und Zeitreise-Fähigkeiten (Time Travel) zu erwerben.
• Apache Iceberg in verschiedenen Umgebungen zu installieren und zu konfigurieren.
• Iceberg-Tabellen zu erstellen, zu verwalten und damit zu arbeiten.
• Den Prozess der Migration von Daten aus anderen Tabellenformaten nach Iceberg zu verstehen.

Diese Dozentengestützte, Live-Schulung in Österreich (online oder vor Ort) richtet sich an Data Scientists und Ingenieure mit mittlerem Kenntnisstand, die Google Colab und Apache Spark für Big-Data-Verarbeitung und -Analyse nutzen möchten.

Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:

• Eine Big-Data-Umgebung mit Google Colab und Spark einzurichten.
• Große Datensätze effizient mit Apache Spark zu verarbeiten und zu analysieren.
• Big Data in einer kollaborativen Umgebung zu visualisieren.
• Apache Spark mit Cloud-basierten Tools zu integrieren.

Dieses live durchgeführte Training (online oder vor Ort) richtet sich an Data Engineers, Data Analysts und Data Professionals, die Databricks und PySpark nutzen möchten, um skalierbare Datapipelines aufzubauen und bestehende SQL-Workflows zu migrieren.

Dieses Schulung bietet eine praktische Einführung in den Aufbau skalierbarer Datenverarbeitungs- und Machine-Learning-Arbeitsabläufe mit PySpark. Die Teilnehmenden lernen, wie Apache Spark in modernen Big-Data-Ökosystemen funktioniert und wie große Datensätze effizient mithilfe von Prinzipien der verteilten Datenverarbeitung verarbeitet werden können.

Dieser dreitägige, praxisorientierte Kurs konzentriert sich auf den Aufbau und die Optimierung effizienter Datenverarbeitungs-Workloads unter Verwendung von PySpark, Pandas und Polars in Kubernetes-basierten Umgebungen.

Die Teilnehmer entwickeln ein praxisnahes Verständnis dafür, wie Spark-Anwendungen auf Kubernetes ausgeführt werden und wie Konfigurationsentscheidungen auf Anwendungsebene Performance, Skalierbarkeit, Ressourcenverbrauch und Kosten beeinflussen. Der Kurs deckt zentrale Optimierungsbereiche ab, einschließlich der Dimensionierung von Executoren, Speicherallokierung, dynamischer Allokierung, Partitionierungsstrategien, Shuffle-Verhalten, dem Problem kleiner Dateien und der effizienten Verarbeitung von Parquet-Dateien.

Außerdem widmet sich der Kurs häufigen Herausforderungen bei der Arbeit mit Pandas, wie etwa Speicherlimitierungen und Speicherüberlauf-Fehlern (Out-of-memory), und stellt Polars als hochperformante Alternative für ausgewählte Datenverarbeitungs-Workloads vor. In praktischen Übungen diagnostizieren die Teilnehmer Leistungs- und Speicherprobleme, vergleichen unterschiedliche Konfigurationsstrategien und wenden Optimierungstechniken auf realistische ETL- und Machine-Learning-Szenarien an.

Der Fokus liegt während des gesamten Kurses auf praktischer Entscheidungsfindung: es geht darum, Engpässe zu identifizieren, die richtigen Werkzeuge auszuwählen, Spark effizient zu konfigurieren und ein Gleichgewicht zwischen Performance, Infrastrukturressourcenverbrauch und Kosten zu finden.

Dieses von Dozenten geleitete Live-Training in Österreich (online oder vor Ort) richtet sich an Ingenieure, die ein Apache Spark-System zur Verarbeitung sehr großer Datenmengen einrichten und bereitstellen möchten.

Am Ende dieses Trainings können die Teilnehmer:

• Apache Spark installieren und konfigurieren.
• Sehr große Datensätze schnell verarbeiten und analysieren.
• Den Unterschied zwischen Apache Spark und Hadoop MapReduce verstehen und wissen, wann sie welches einsetzen sollten.
• Apache Spark mit anderen Machine-Learning-Tools integrieren.

Dieses vom Dozenten gelebte Live-Training in Österreich (online oder vor Ort) richtet sich an Systemadministrator:innen mit Grund- bis中级 Erfahrung, die Spark-Cluster bereitstellen, warten und optimieren möchten.

Am Ende dieses Trainings werden die Teilnehmer:innen in der Lage sein:

• Apache Spark in verschiedenen Umgebungen zu installieren und zu konfigurieren.
• Cluster-Ressourcen zu verwalten und Spark-Anwendungen zu überwachen.
• Die Leistung von Spark-Clustern zu optimieren.
• Sicherheitsmaßnahmen umzusetzen und hohe Verfügbarkeit sicherzustellen.
• Häufige Spark-Probleme zu debuggen und zu beheben.

In diesem leitergeführten Live-Training in Österreich lernen die Teilnehmer, wie sie Python und Spark gemeinsam nutzen, um Big Data zu analysieren, während sie an praktischen Übungen arbeiten.

Nach Abschluss dieses Trainings können die Teilnehmer:

• Spark mit Python nutzen, um Big Data zu analysieren.
• An Übungen arbeiten, die reale Anwendungsfälle simulieren.
• Verschiedene Werkzeuge und Techniken für die Big-Data-Analyse mit PySpark anwenden.

Diese instructor-gestützte, live Schulung in Österreich (online oder vor Ort) richtet sich an Entwickler, die Spark, Hadoop und Python nutzen und integrieren möchten, um große und komplexe Datensätze zu verarbeiten, zu analysieren und zu transformieren.

Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:

• Die notwendige Umgebung für den Einstieg in die Big-Data-Verarbeitung mit Spark, Hadoop und Python einzurichten.
• Die Funktionen, Kernkomponenten und die Architektur von Spark und Hadoop zu verstehen.
• Lernen, wie Spark, Hadoop und Python für die Big-Data-Verarbeitung integriert werden.
• Die Tools im Spark-Ökosystem erkunden (Spark MLlib, Spark Streaming, Kafka, Sqoop, Kafka und Flume).
• Kooperative Filter-Empfehlungssysteme ähnlich denen von Netflix, YouTube, Amazon, Spotify und Google aufbauen.
• Apache Mahout zur Skalierung von Machine-Learning-Algorithmen einsetzen.