Kontakt aufnehmen

Schulungsübersicht

Einführung in QLoRA und Quantisierung

  • Übersicht über Quantisierung und deren Rolle bei der Modelloptimierung
  • Einführung in das QLoRA-Framework und dessen Vorteile
  • Hauptunterschiede zwischen QLoRA und traditionellen Feinabstimmungsmethoden

Grundlagen großer Sprachmodelle (LLMs)

  • Einführung in LLMs und deren Architektur
  • Herausforderungen bei der skalierbaren Feinabstimmung großer Modelle
  • Wie Quantisierung hilft, rechnerische Einschränkungen bei der LLM-Feinabstimmung zu überwinden

Implementierung von QLoRA zur Feinabstimmung von LLMs

  • Einrichten des QLoRA-Frameworks und der Umgebung
  • Vorbereiten von Datensätzen für die QLoRA-Feinabstimmung
  • Schritt-für-Schritt-Anleitung zur Implementierung von QLoRA auf LLMs mit Python und PyTorch/TensorFlow

Optimierung der Feinabstimmungsleistung mit QLoRA

  • Ausgewogenes Verhältnis zwischen Modellgenauigkeit und Leistung durch Quantisierung
  • Techniken zur Reduzierung von Rechenkosten und Speichernutzung während der Feinabstimmung
  • Strategien für die Feinabstimmung mit minimalen Hardwareanforderungen

Bewertung feinabgestimmter Modelle

  • Einschätzung der Wirksamkeit feinabgestimmter Modelle
  • Häufige Bewertungsmetriken für Sprachmodelle
  • Optimierung der Modellleistung nach der Feinabstimmung und Fehlerbehebung

Bereitstellung und Skalierung feinabgestimmter Modelle

  • Best Practices für die Bereitstellung quantisierter LLMs in Produktionsumgebungen
  • Skalierung der Bereitstellung zur Bewältigung von Echtzeit-Anfragen
  • Tools und Frameworks für die Modellbereitstellung und Überwachung

Praxisbeispiele und Fallstudien

  • Fallstudie: Feinabstimmung von LLMs für Kundensupport und NLP-Aufgaben
  • Beispiele zur Feinabstimmung von LLMs in verschiedenen Branchen wie Gesundheitswesen, Finanzen und E-Commerce
  • Lernergebnisse aus der praktischen Bereitstellung von QLoRA-basierten Modellen

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Grundverständnis der Prinzipien des maschinellen Lernens und neuronaler Netze
  • Erfahrung mit der Feinabstimmung von Modellen und Transfer-Learning
  • Vertrautheit mit großen Sprachmodellen (LLMs) sowie Deep-Learning-Frameworks (z. B. PyTorch, TensorFlow)

Zielgruppe

  • Maschinenlern-Ingenieure
  • KI-Entwickler
  • Data Scientists
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien