Kontakt aufnehmen

Schulungsübersicht

Einführung in Ollama für die LLM-Bereitstellung

  • Übersicht der Fähigkeiten von Ollama
  • Vorteile der lokalen Bereitstellung von KI-Modellen
  • Vergleich mit cloudbasierten KI-Hosting-Lösungen

Einrichten der Bereitstellungs_umgebung_

  • Installation von Ollama und erforderlichen Abhängigkeiten
  • Konfiguration von Hardware und GPU-Beschleunigung
  • Dockerisierung von Ollama für skalierbare Bereitstellungen

Bereitstellung von LLMs mit Ollama

  • Laden und Verwalten von KI-Modellen
  • Bereitstellung von Llama 3, DeepSeek, Mistral und anderen Modellen
  • Erstellen von APIs und Endpunkten für den Zugriff auf KI-Modelle

Optimierung der LLM-Leistung

  • Feinabstimmung von Modellen für Effizienz
  • Reduzierung der Latenz und Verbesserung der Antwortzeiten
  • Verwaltung von Speicher und Ressourcenzuweisung

Integration von Ollama in KI-Workflows

  • Verbindung von Ollama mit Anwendungen und Diensten
  • Automatisierung von KI-gesteuerten Prozessen
  • Nutzung von Ollama in Edge-Computing-Umgebungen

Überwachung und Wartung

  • Verfolgung der Leistung und Fehlerbehebung bei Problemen
  • Aktualisierung und Verwaltung von KI-Modellen
  • Sicherstellung von Sicherheit und Compliance bei KI-Bereitstellungen

Skalierung von KI-Modellbereitstellungen

  • Bewährte Praktiken für den Umgang mit hohen Arbeitslasten
  • Skalierung von Ollama für Unternehmensanwendungsfälle
  • Zukünftige Entwicklungen in der lokalen Bereitstellung von KI-Modellen

Zusammenfassung und weitere Schritte

Voraussetzungen

  • Basiserfahrung mit maschinellem Lernen und KI-Modellen
  • Vertrautheit mit Befehlszeilenoberflächen (CLI) und Scripting
  • Verständnis von Bereitstellungs_umgebungen_ (lokal, Edge, Cloud)

Zielgruppe

  • KI-Ingenieure, die lokale und cloudbasierte KI-Bereitstellungen optimieren
  • ML-Praktiker, die LLMs bereitstellen und feinabstimmen
  • DevOps-Spezialisten, die die Integration von KI-Modellen verwalten
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien