Kontakt aufnehmen

Schulungsübersicht

Einführung in die Optimierung großer Modelle

  • Überblick über große Modellarchitekturen
  • Herausforderungen beim Fine-Tuning großer Modelle
  • Wichtigkeit der kosteneffizienten Optimierung

Verteilte Trainingstechniken

  • Einführung in Data Parallelism und Model Parallelism
  • Frameworks für verteiltes Training: PyTorch und TensorFlow
  • Skalierung über mehrere GPUs und Nodes

Modellquantisierung und -pruning

  • Verständnis von Quantisierungstechniken
  • Anwendung von Pruning zur Verringerung der Modellgröße
  • Abwägungen zwischen Genauigkeit und Effizienz

Hardware-Optimierung

  • Auswahl der passenden Hardware für Fine-Tuning-Aufgaben
  • Optimierung der GPU- und TPU-Auslastung
  • Nutzung spezialisierter Beschleuniger für große Modelle

Effizientes Datenmanagement

  • Strategien zur Verwaltung großer Datensätze
  • Vorverarbeitung und Batching zur Leistungssteigerung
  • Daten-Augmentierungstechniken

Bereitstellung optimierter Modelle

  • Techniken zur Bereitstellung fine-tunter Modelle
  • Überwachung und Aufrechterhaltung der Modellleistung
  • Praxisbeispiele für die Bereitstellung optimierter Modelle

Fortschrittliche Optimierungstechniken

  • Erkundung von Low-Rank Adaptation (LoRA)
  • Nutzung von Adaptern für modulares Fine-Tuning
  • Zukunftstrends in der Modelloptimierung

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Erfahrung mit Deep-Learning-Frameworks wie PyTorch oder TensorFlow
  • Vertrautheit mit Large Language Models und deren Anwendungen
  • Verständnis der Konzepte des verteilten Rechnens

Zielgruppe

  • Maschinenlern-Engineers
  • Cloud-KI-Spezialisten
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien