Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Grundlagen sicherer lokaler KI
- Bedeutung von lokaler und On-Premises-KI in regulierten Umgebungen
- Cloud-KI im Vergleich zur internen Bereitstellung für sensible Arbeitslasten
- Häufige Unternehmensanwendungsfälle für private Assistenten und Arbeitsunterstützung
- Kernkomponenten einer sicheren lokalen KI-Architektur
Ollama und Grundlagen offener Modelle
- Integration von Ollama in eine lokale Entwicklungsumgebung
- Abrufen, Ausführen und Verwalten von Modellen lokal
- Modellauswahl basierend auf Größe, Qualität, Hardware und Lizenz
- Anpassung der Modelloptionen an praktische Geschäftsaufgaben
Vorbereitung der On-Premises-Umgebung
- Vorbereitung von Hosts, Workstations und Servern
- Installation und Konfiguration von Ollama für lokale Inferenz
- Nutzung von Containern und interner Entwicklungswerkzeuge
- Überprüfung des API-Zugangs und der grundlegenden Betriebsbereitschaft
Effektive Arbeit mit lokalen Modellen
- Ausführung von Prompts und Gestaltung der Ausgaben durch Systemanweisungen
- Wiederverwendung von Vorlagen für konsistente Unternehmensaufgaben
- Verwaltung von Modelversionen und internen Artefakten
- Grundlagen der Leistungsoptimierung für CPU- und GPU-Bereitstellungen
Aufbau praktischer agentic-Arbeitsabläufe
- Was einen Arbeitsablauf in einem kontrollierten Umfeld „agentic“ macht
- Einfache Muster für Planung, Werkzeugnutzung und Antwortschleifen
- Gestaltung aufgabenfokussierter Assistenten für interne Abläufe
- Integration von menschlicher Überprüfung, Fallback-Logik und Fehlerbehandlung
Private Retrieval-Arbeitsabläufe
- Grundlagen des retrieval-augmented generation (RAG) für den Zugriff auf internes Wissen
- Vorbereitung von Dokumenten für Chunking, Indizierung und Suche
- Anbindung eines lokalen Vektorspeichers an eine Ollama-basierte Anwendung
- Verbesserung der Relevanz und Antwortqualität durch optimierte Retrieval-Muster
Praktiken für Sicherheit, Governance und Compliance
- Grenzen des Datenumgangs und Datenschutzaspekte
- Zugriffskontrolle, Protokollierung und Audit-Unterstützung
- Prompt-Sicherheit, Ausgabe kontrollen und Sicherheitsabgrenzungen (Guardrails)
- Governance-Kontrollpunkte für regulierte Bereitstellung und Betrieb
Enterprise-Integrationsmuster
- Freigabe lokaler KI-Fähigkeiten durch interne APIs
- Integration von Assistenten in interne Anwendungen und Dienste
- Unterstützung von Einsatzszenarien für Assistenten, Stapelverarbeitung und Workflow-Automatisierung
- Sicherstellung, dass Lösungen innerhalb kontrollierter Netzwerkgrenzen bleiben
Evaluierung lokaler KI-Lösungen
- Bewertung von Qualität, Zuverlässigkeit und Konsistenz
- Tests gegen Geschäfts-, Policy- und Sicherheitsanforderungen
- Vergleich von Modelloptionen für spezifische Unternehmensaufgaben
- Etablierung eines praktischen Verbesserungszyklus für interne Teams
Praktisches Implementierungs-Lab
- Erstellung eines privaten Assistenten mit Ollama und einem offenen Modell
- Retrieval über genehmigte interne Dokumente hinzufügen
- Einführung einfacher agentic-Aktionen und Sicherheitskontrollen
- Überprüfung von Bereitstellung, Betrieb und Governance-Kontrollpunkten
Plan für die Einführung und weitere Schritte
- Überprüfung der wichtigsten Design- und Bereitstellungsentscheidungen
- Identifizierung häufiger Fallstricke in regulierten KI-Projekten
- Planung von Pilotanwendungsfällen und Abstimmung mit Stakeholdern
- Definition einer Roadmap für die sichere Einführung lokaler KI
Voraussetzungen
- Grundlegendes Verständnis von KI-Konzepten und Softwareentwicklung
- Vertrautheit mit Befehlszeilen-Tools, Containern oder lokalen Entwicklungsumgebungen
- Grundlegende Erfahrungen im Scripting oder Programmieren
Zielgruppe
- Entwickler*innen und technische Teams, die private KI-Lösungen auf interner Infrastruktur entwickeln
- Fachleute für Sicherheit, Compliance und Plattformen, die KI in regulierten Umgebungen unterstützen
- Technische Führungskräfte aus Finanzen, Gesundheitswesen, Regierung und Verteidigung, die die Einführung von On-Premises-KI evaluieren
21 Stunden