Schulungsübersicht
Einführung in Modelloptimierung und Bereitstellung
- Überblick über DeepSeek-Modelle und Herausforderungen bei der Bereitstellung
- Verstehen der Modelleffizienz: Geschwindigkeit versus Genauigkeit
- Wichtige Leistungsmetriken für KI-Modelle
Optimierung von DeepSeek-Modellen für die Leistung
- Techniken zur Verringerung der Inferenzlatenz
- Strategien zur Modellquantisierung und -beschneidung
- Verwendung optimierter Bibliotheken für DeepSeek-Modelle
Implementierung von MLOps für DeepSeek-Modelle
- Versionskontrolle und Modellverfolgung
- Automatisierung des Modellnachtrainings und der Bereitstellung
- CI/CD-Pipelines für KI-Anwendungen
Bereitstellung von DeepSeek-Modellen in Cloud- und On-Premise-Umgebungen
- Auswahl der richtigen Infrastruktur für die Bereitstellung
- Bereitstellung mit Docker und Kubernetes
- Verwaltung des API-Zugriffs und der Authentifizierung
Skalierung und Überwachung von KI-Bereitstellungen
- Strategien zur Lastverteilung für KI-Dienste
- Überwachung von Modellabweichungen und Leistungsverschlechterungen
- Implementierung von Auto-Scaling für KI-Anwendungen
Sicherstellung von Sicherheit und Compliance bei KI-Bereitstellungen
- Verwaltung der Datenschutzanforderungen in KI-Workflows
- Einhaltung unternehmensspezifischer KI-Vorschriften
- Bewährte Praktiken für sichere KI-Bereitstellungen
Zukunftstrends und Strategien zur KI-Optimierung
- Fortschritte bei Techniken zur Optimierung von KI-Modellen
- Entstehende Trends in MLOps und KI-Infrastruktur
- Erstellung einer Roadmap für KI-Bereitstellungen
Zusammenfassung und nächste Schritte
Voraussetzungen
- Erfahrung mit KI-Modellbereitstellung und Cloud-Infrastruktur
- Profunde Kenntnisse einer Programmiersprache (z. B. Python, Java, C++)
- Verständnis von MLOps und der Optimierung der Modellleistung
Zielgruppe
- KI-Ingenieure, die DeepSeek-Modelle optimieren und bereitstellen
- Data Scientists, die sich mit der Leistungsoptimierung von KI befassen
- Machine-Learning-Spezialisten, die cloudbasierte KI-Systeme verwalten
Erfahrungsberichte (2)
das ML-Ökosystem nicht nur MLflow, sondern auch Optuna, Hyperopt, Docker und Docker Compose
Guillaume GAUTIER - OLEA MEDICAL
Kurs - MLflow
Maschinelle Übersetzung
Ich habe es genossen, an der Kubeflow-Schulung teilzunehmen, die fernmündlich durchgeführt wurde. Diese Schulung ermöglichte mir, mein Wissen zu AWS-Diensten, K8s und allen devOps-Tools um Kubeflow herum zu vertiefen, was die notwendigen Grundlagen sind, um das Thema angemessen anzugehen. Ich möchte mich bei Malawski Marcin für seine Geduld und Professionalität bei der Schulung sowie für seine Ratschläge zur Best Practice bedanken. Malawski behandelt das Thema aus verschiedenen Perspektiven und nutzt verschiedene Bereitstellungstools wie Ansible, EKS kubectl und Terraform. Nun bin ich definitiv davon überzeugt, dass ich mich in dem richtigen Anwendungsbereich befinde.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Kurs - Kubeflow
Maschinelle Übersetzung
