Kontakt aufnehmen

Schulungsübersicht

Grundlagen der sicheren lokalen KI

  • Was lokale und On-Prem-KI in regulierten Umgebungen bedeuten
  • Cloud-KI im Vergleich zu interner Bereitstellung für sensible Workloads
  • Häufige Unternehmensanwendungsfälle für private Assistenten und Workflow-Unterstützung
  • Kernkomponenten einer sicheren lokalen KI-Architektur

Grundlagen von Ollama und offenen Modellen

  • Wie Ollama in einen lokalen Entwicklungstack integriert wird
  • Lokales Herunterladen, Ausführen und Verwalten von Modellen
  • Auswahl von Modellen basierend auf Größe, Qualität, Hardware und Lizenz
  • Abgleich der Modelloptionen mit praktischen Geschäftsaufgaben

Vorbereitung der On-Prem-Umgebung

  • Vorbereitung von Host, Workstation und Server
  • Installation und Konfiguration von Ollama für lokale Inferenz
  • Nutzung von Containern und internen Entwicklungswerkzeugen
  • Überprüfen des API-Zugriffs und der grundlegenden Betriebsbereitschaft

Effektive Arbeit mit lokalen Modellen

  • Ausführung von Prompts und Gestalten von Ausgaben mittels Systemanweisungen
  • Wiederverwendung von Vorlagen für konsistente Unternehmensaufgaben
  • Verwaltung von Modellversionen und internen Artefakten
  • Grundlegende Leistungsoptimierung für CPU- und GPU-Bereitstellungen

Erstellung praktischer agentischer Workflows

  • Was einen Workflow in einer kontrollierten Umgebung agentisch macht
  • Einfache Muster für Planung, Werkzeugnutzung und Antwortschleifen
  • Entwicklung aufgabenorientierter Assistenten für interne Abläufe
  • Hinzufügen von menschlicher Überprüfung, Fallback-Logik und Fehlerbehandlung

Private Abruf-Workflows

  • Grundlagen der retrievalgestützten Generierung für den Zugriff auf internes Wissen
  • Vorbereitung von Dokumenten für Chunking, Indexierung und Suche
  • Verbindung eines lokalen Vektorspeichers mit einer Ollama-basierten Anwendung
  • Verbesserung der Relevanz und Antwortqualität durch bessere Abrufmuster

Sicherheits-, Governance- und Compliance-Praktiken

  • Datenverarbeitungsrichtlinien und Datenschutzüberlegungen
  • Zugriffssteuerung, Protokollierung und Audit-Unterstützung
  • Prompt-Sicherheit, Ausgabenkontrollen und Schutzmaßnahmen
  • Governance-Checkpoints für regulierte Bereitstellung und Betrieb

Integrationsmuster für Unternehmen

  • Bereitstellung lokaler KI-Funktionen über interne APIs
  • Integration von Assistenten mit internen Anwendungen und Diensten
  • Unterstützung von Assistenten-, Batch- und Workflow-Automatisierungsfällen
  • Halten von Lösungen innerhalb kontrollierter Netzwerkgrenzen

Evaluierung lokaler KI-Lösungen

  • Bewertung von Qualität, Zuverlässigkeit und Konsistenz
  • Testing gegen geschäftliche, politische und Sicherheitsanforderungen
  • Vergleich von Modelloptionen für spezifische Unternehmensaufgaben
  • Etablierung eines praktischen Verbesserungszyklus für interne Teams

Praxisorientiertes Implementierungslabor

  • Aufbau eines privaten Assistenten mit Ollama und einem offenen Modell
  • Hinzufügen von Abruf über genehmigte interne Dokumente
  • Einführung einfacher agentischer Aktionen und Sicherheitskontrollen
  • Überprüfung von Bereitstellung, Betrieb und Governance-Checkpoints

Einführungsplanung und nächste Schritte

  • Überprüfung wichtiger Design- und Bereitstellungsentscheidungen
  • Identifikation häufiger Fallstricke in regulierten KI-Projekten
  • Planung von Pilotanwendungsfällen und Abstimmung mit Stakeholdern
  • Festlegung einer Roadmap für die sichere Einführung lokaler KI

Voraussetzungen

  • Grundlegendes Verständnis von KI-Konzepten und Softwareentwicklung
  • Vertrautheit mit Befehlszeilenwerkzeugen, Containern oder lokalen Entwicklungsumgebungen
  • Grundlegende Erfahrungen in Skripterstellung oder Programmierung

Zielgruppe

  • Entwickler und technische Teams, die private KI-Lösungen auf interner Infrastruktur aufbauen
  • Fachkräfte für Sicherheit, Compliance und Plattformen, die KI in regulierten Umgebungen unterstützen
  • Technische Führungskräfte in Finanzwesen, Gesundheitswesen, Regierung und Verteidigung, die die Einführung von On-Prem-KI evaluieren
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien