Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Grundlagen der sicheren lokalen KI
- Was lokale und On-Prem-KI in regulierten Umgebungen bedeuten
- KI in der Cloud versus interne Bereitstellungen für sensible Workloads
- Häufige Unternehmensszenarien für private Assistenten und Workflow-Unterstützung
- Komponenten einer sicheren lokalen KI-Architektur
Ollama und Grundlagen von Open-Modellen
- Wie Ollama in eine lokale Entwicklungsumgebung integriert ist
- Lokales Abrufen, Ausführen und Verwalten von Modellen
- Modellauswahl basierend auf Größe, Qualität, Hardware und Lizenz
- Anpassung der Modelle an praktische Geschäftsaufgaben
Vorbereitung der On-Prem-Umgebung
- Vorbereitung von Hosts, Workstations und Servern
- Installation und Konfiguration von Ollama für lokale Inferenz
- Nutzung von Containern und interner Entwicklungstooling
- Verifikation des API-Zugriffs und grundlegende Betriebsbereitschaft
Effektiver Umgang mit lokalen Modellen
- Ausführen von Prompts und Steuern der Ausgaben mit Systemanweisungen
- Wiederverwendung von Vorlagen für konsistente Unternehmensaufgaben
- Verwaltung von Modellversionen und internen Artefakten
- Basis-Performance-Tuning für CPU- und GPU-Bereitstellungen
Aufbau praktischer agentic Workflows
- Was einen Workflow in einem kontrollierten Setting agentic macht
- Einfache Muster für Planung, Werkzeugnutzung und Antwortschleifen
- Design aufgabenfokussierter Assistenten für interne Abläufe
- Einfügen menschlicher Überprüfung, Fallback-Logik und Fehlerbehandlung
Private Retrieval-Workflows
- Grundlagen von retrieval-augmented generation (RAG) für den internen Wissenszugriff
- Vorbereitung von Dokumenten für Chunking, Indexierung und Suche
- Anbindung eines lokalen Vektorspeichers an eine Ollama-basierte Anwendung
- Verbesserung der Relevanz und Antwortqualität durch bessere Retrieval-Muster
Sicherheits-, Governance- und Compliance-Praktiken
- Grenzen der Datenverarbeitung und Datenschutzaspekte
- Zugriffskontrolle, Protokollierung und Audit-Unterstützung
- Prompt-Sicherheit, Ausgabe-Kontrollen und Guardrails
- Governance-Checkpoint bei regulatorischen Bereitstellungen und Betrieben
Enterprise-Integration Patterns
- Bereitstellen lokaler KI-Fähigkeiten über interne APIs
- Integration von Assistenten in interne Anwendungen und Dienste
- Unterstützung von Assistenten-, Batch- und Workflow-Automatisierungsszenarien
- Aufrechterhaltung der Lösungen innerhalb kontrollierter Netzwerkgrenzen
Evaluierung lokaler KI-Lösungen
- Bewertung von Qualität, Zuverlässigkeit und Konsistenz
- Tests gegen Geschäfts-, Policy- und Sicherheitsanforderungen
- Vergleich von Modellen für spezifische Unternehmensaufgaben
- Etablierung eines praktischen Verbesserungszyklus für interne Teams
Praktisches Implementierungs-Lab
- Aufbau eines privaten Assistenten mit Ollama und einem Open-Modell
- Hinzufügen von Retrieval über genehmigte interne Dokumente
- Einführung einfacher agentic Aktionen und Sicherheitskontrollen
- Überprüfung der Bereitstellungs-, Betriebs- und Governance-Checkpoints
Adoption-Planung und nächste Schritte
- Überprüfung wesentlicher Design- und Bereitstellungsentscheidungen
- Identifizierung häufiger Fallstricke bei regulierten KI-Projekten
- Planung von Pilot-Szenarien und Stakeholder-Ausrichtung
- Festlegung eines Roadmaps für die sichere On-Prem-KI-Adoption
Voraussetzungen
- Grundlegendes Verständnis von KI-Konzepten und Softwareentwicklung
- Vertrautheit mit Befehlszeilentools, Containern oder lokalen Entwicklungsumgebungen
- Grundlegende Erfahrungen mit Skripting oder Programmierung
Zielgruppe
- Entwickler und technische Teams, die private KI-Lösungen auf interner Infrastruktur aufbauen
- Fachleute für Sicherheit, Compliance und Plattformen, die KI in regulierten Umgebungen unterstützen
- Techische Führungspersonen in den Bereichen Finanzen, Gesundheitswesen, Regierung und Verteidigung, die die On-Prem-KI-Adoption evaluieren
21 Stunden