Spring AI Schulung

1. Einführung in Spring AI

• Projekt Erstellung und Konfiguration
• Die Rolle von Prompts und das Einreichen von Prompts
• Schreiben eines ersten Tests
• Modellwahl
• Modellkonfiguration
• Vorschau auf die Funktionen von Spring AI

2. Verständnis der Antworten

• Wie man relevante Antworten überprüft
• Die Genauigkeit zur Laufzeit

3. Prompts im Detail

• Verwendung von Prompt-Templates
• Definition eines neuen Prompt-Templates
• Verständnis des Kontexts
• Die Rolle und ihre Bedeutung
• Einfluss auf die Antwortgenerierung durch Optionen
• Streaming und Formatierung der Ausgabe
• Metadaten in der Antwort

4. Nutzung eigener Daten und Dokumente

• Verständnis von RAG (Retrieval-Augmented Generation)
• Einrichtung des Vektorstores und Laden von Dokumenten
• Eine erste RAG-Implementierung
• Ein RAG-Ansatz unter Verwendung eines Advisors
• Modulare RAG-Funktionen

5. Die Rolle des Gedächtnisses in der KI

• Warum wir Gedächtnis benötigen
• Hinzufügen und Konfigurieren von Gedächtnis zur Unterstützung von Gesprächen
• Die Gesprächs-ID
• Unterstützung von dauerhaftem Gedächtnis
• Speichern von Chat-Gedächtnis im Vektorstore

6. KI-Tools

• Eine Anwendung mit aktiven Tools
• Verständnis der Tool-Fähigkeiten
• Schreiben von Tools und deren Einsatz
• Funktionen als Tools

7. Das Model Context Protocol (MCP)

• Warum wir MCP benötigen?
• Arbeit mit einem MCP-Client
• Entwicklung des MCP-Servers
• Datenbank und Tools für den MCP-Server
• Verständnis der HTTP- und SSE (Server-Sent Events)-Transportmechanismen
• Bereitstellung von Prompts und Ressourcen

8. Überwachung von Operationen

• Aktivierung von Actuator-Metriken
• Prüfung von Vektorstore-Operationen
• Beobachtung der Modellinteraktion
• Token-Zählung
• Zusammenführung in Prometheus und Erstellung eines Dashboards
• Tracing von KI-Operationen

9. Schutzmaßnahmen in der generativen KI

• Kontrolle der per RAG abgerufenen Dokumente
• Sicherung von Tools
• Gegenmaßnahmen gegen adversariales Prompting
• Moderation von Benutzereingaben

10. Gängige Muster der generativen KI

• Inhaltszusammenfassung
• Nachrichtentranslation
• Sentiment-Analyse

11. Die Rolle der Agenten

• Was ist ein Agent
• Implementierung agentenbasierter Workflows
• Kettenbildung von Prompts, Task-Routing und Parallelisierung
• Zugriff auf Agenten über MCP