Kontakt aufnehmen

Schulungsübersicht

Grundlagen sicherer lokaler KI

  • Bedeutung von lokaler und On-Premises-KI in regulierten Umgebungen
  • Cloud-KI im Vergleich zur internen Bereitstellung für sensible Arbeitslasten
  • Häufige Unternehmensanwendungsfälle für private Assistenten und Arbeitsunterstützung
  • Kernkomponenten einer sicheren lokalen KI-Architektur

Ollama und Grundlagen offener Modelle

  • Integration von Ollama in eine lokale Entwicklungsumgebung
  • Abrufen, Ausführen und Verwalten von Modellen lokal
  • Modellauswahl basierend auf Größe, Qualität, Hardware und Lizenz
  • Anpassung der Modelloptionen an praktische Geschäftsaufgaben

Vorbereitung der On-Premises-Umgebung

  • Vorbereitung von Hosts, Workstations und Servern
  • Installation und Konfiguration von Ollama für lokale Inferenz
  • Nutzung von Containern und interner Entwicklungswerkzeuge
  • Überprüfung des API-Zugangs und der grundlegenden Betriebsbereitschaft

Effektive Arbeit mit lokalen Modellen

  • Ausführung von Prompts und Gestaltung der Ausgaben durch Systemanweisungen
  • Wiederverwendung von Vorlagen für konsistente Unternehmensaufgaben
  • Verwaltung von Modelversionen und internen Artefakten
  • Grundlagen der Leistungsoptimierung für CPU- und GPU-Bereitstellungen

Aufbau praktischer agentic-Arbeitsabläufe

  • Was einen Arbeitsablauf in einem kontrollierten Umfeld „agentic“ macht
  • Einfache Muster für Planung, Werkzeugnutzung und Antwortschleifen
  • Gestaltung aufgabenfokussierter Assistenten für interne Abläufe
  • Integration von menschlicher Überprüfung, Fallback-Logik und Fehlerbehandlung

Private Retrieval-Arbeitsabläufe

  • Grundlagen des retrieval-augmented generation (RAG) für den Zugriff auf internes Wissen
  • Vorbereitung von Dokumenten für Chunking, Indizierung und Suche
  • Anbindung eines lokalen Vektorspeichers an eine Ollama-basierte Anwendung
  • Verbesserung der Relevanz und Antwortqualität durch optimierte Retrieval-Muster

Praktiken für Sicherheit, Governance und Compliance

  • Grenzen des Datenumgangs und Datenschutzaspekte
  • Zugriffskontrolle, Protokollierung und Audit-Unterstützung
  • Prompt-Sicherheit, Ausgabe kontrollen und Sicherheitsabgrenzungen (Guardrails)
  • Governance-Kontrollpunkte für regulierte Bereitstellung und Betrieb

Enterprise-Integrationsmuster

  • Freigabe lokaler KI-Fähigkeiten durch interne APIs
  • Integration von Assistenten in interne Anwendungen und Dienste
  • Unterstützung von Einsatzszenarien für Assistenten, Stapelverarbeitung und Workflow-Automatisierung
  • Sicherstellung, dass Lösungen innerhalb kontrollierter Netzwerkgrenzen bleiben

Evaluierung lokaler KI-Lösungen

  • Bewertung von Qualität, Zuverlässigkeit und Konsistenz
  • Tests gegen Geschäfts-, Policy- und Sicherheitsanforderungen
  • Vergleich von Modelloptionen für spezifische Unternehmensaufgaben
  • Etablierung eines praktischen Verbesserungszyklus für interne Teams

Praktisches Implementierungs-Lab

  • Erstellung eines privaten Assistenten mit Ollama und einem offenen Modell
  • Retrieval über genehmigte interne Dokumente hinzufügen
  • Einführung einfacher agentic-Aktionen und Sicherheitskontrollen
  • Überprüfung von Bereitstellung, Betrieb und Governance-Kontrollpunkten

Plan für die Einführung und weitere Schritte

  • Überprüfung der wichtigsten Design- und Bereitstellungsentscheidungen
  • Identifizierung häufiger Fallstricke in regulierten KI-Projekten
  • Planung von Pilotanwendungsfällen und Abstimmung mit Stakeholdern
  • Definition einer Roadmap für die sichere Einführung lokaler KI

Voraussetzungen

  • Grundlegendes Verständnis von KI-Konzepten und Softwareentwicklung
  • Vertrautheit mit Befehlszeilen-Tools, Containern oder lokalen Entwicklungsumgebungen
  • Grundlegende Erfahrungen im Scripting oder Programmieren

Zielgruppe

  • Entwickler*innen und technische Teams, die private KI-Lösungen auf interner Infrastruktur entwickeln
  • Fachleute für Sicherheit, Compliance und Plattformen, die KI in regulierten Umgebungen unterstützen
  • Technische Führungskräfte aus Finanzen, Gesundheitswesen, Regierung und Verteidigung, die die Einführung von On-Premises-KI evaluieren
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien