Kontakt aufnehmen

Schulungsübersicht

Grundlagen der sicheren lokalen KI

  • Was lokale und On-Prem-KI in regulierten Umgebungen bedeuten
  • KI in der Cloud versus interne Bereitstellungen für sensible Workloads
  • Häufige Unternehmensszenarien für private Assistenten und Workflow-Unterstützung
  • Komponenten einer sicheren lokalen KI-Architektur

Ollama und Grundlagen von Open-Modellen

  • Wie Ollama in eine lokale Entwicklungsumgebung integriert ist
  • Lokales Abrufen, Ausführen und Verwalten von Modellen
  • Modellauswahl basierend auf Größe, Qualität, Hardware und Lizenz
  • Anpassung der Modelle an praktische Geschäftsaufgaben

Vorbereitung der On-Prem-Umgebung

  • Vorbereitung von Hosts, Workstations und Servern
  • Installation und Konfiguration von Ollama für lokale Inferenz
  • Nutzung von Containern und interner Entwicklungstooling
  • Verifikation des API-Zugriffs und grundlegende Betriebsbereitschaft

Effektiver Umgang mit lokalen Modellen

  • Ausführen von Prompts und Steuern der Ausgaben mit Systemanweisungen
  • Wiederverwendung von Vorlagen für konsistente Unternehmensaufgaben
  • Verwaltung von Modellversionen und internen Artefakten
  • Basis-Performance-Tuning für CPU- und GPU-Bereitstellungen

Aufbau praktischer agentic Workflows

  • Was einen Workflow in einem kontrollierten Setting agentic macht
  • Einfache Muster für Planung, Werkzeugnutzung und Antwortschleifen
  • Design aufgabenfokussierter Assistenten für interne Abläufe
  • Einfügen menschlicher Überprüfung, Fallback-Logik und Fehlerbehandlung

Private Retrieval-Workflows

  • Grundlagen von retrieval-augmented generation (RAG) für den internen Wissenszugriff
  • Vorbereitung von Dokumenten für Chunking, Indexierung und Suche
  • Anbindung eines lokalen Vektorspeichers an eine Ollama-basierte Anwendung
  • Verbesserung der Relevanz und Antwortqualität durch bessere Retrieval-Muster

Sicherheits-, Governance- und Compliance-Praktiken

  • Grenzen der Datenverarbeitung und Datenschutzaspekte
  • Zugriffskontrolle, Protokollierung und Audit-Unterstützung
  • Prompt-Sicherheit, Ausgabe-Kontrollen und Guardrails
  • Governance-Checkpoint bei regulatorischen Bereitstellungen und Betrieben

Enterprise-Integration Patterns

  • Bereitstellen lokaler KI-Fähigkeiten über interne APIs
  • Integration von Assistenten in interne Anwendungen und Dienste
  • Unterstützung von Assistenten-, Batch- und Workflow-Automatisierungsszenarien
  • Aufrechterhaltung der Lösungen innerhalb kontrollierter Netzwerkgrenzen

Evaluierung lokaler KI-Lösungen

  • Bewertung von Qualität, Zuverlässigkeit und Konsistenz
  • Tests gegen Geschäfts-, Policy- und Sicherheitsanforderungen
  • Vergleich von Modellen für spezifische Unternehmensaufgaben
  • Etablierung eines praktischen Verbesserungszyklus für interne Teams

Praktisches Implementierungs-Lab

  • Aufbau eines privaten Assistenten mit Ollama und einem Open-Modell
  • Hinzufügen von Retrieval über genehmigte interne Dokumente
  • Einführung einfacher agentic Aktionen und Sicherheitskontrollen
  • Überprüfung der Bereitstellungs-, Betriebs- und Governance-Checkpoints

Adoption-Planung und nächste Schritte

  • Überprüfung wesentlicher Design- und Bereitstellungsentscheidungen
  • Identifizierung häufiger Fallstricke bei regulierten KI-Projekten
  • Planung von Pilot-Szenarien und Stakeholder-Ausrichtung
  • Festlegung eines Roadmaps für die sichere On-Prem-KI-Adoption

Voraussetzungen

  • Grundlegendes Verständnis von KI-Konzepten und Softwareentwicklung
  • Vertrautheit mit Befehlszeilentools, Containern oder lokalen Entwicklungsumgebungen
  • Grundlegende Erfahrungen mit Skripting oder Programmierung

Zielgruppe

  • Entwickler und technische Teams, die private KI-Lösungen auf interner Infrastruktur aufbauen
  • Fachleute für Sicherheit, Compliance und Plattformen, die KI in regulierten Umgebungen unterstützen
  • Techische Führungspersonen in den Bereichen Finanzen, Gesundheitswesen, Regierung und Verteidigung, die die On-Prem-KI-Adoption evaluieren
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien