Spring AI: KI in Spring-Boot-Anwendungen nutzen
In diesem praxisorientierten Seminar lernen die Teilnehmer, wie KI-Modelle (Large Language Models, LLMs) mit Spring AI in Spring-Boot-Anwendungen integriert werden können. Der Kurs kombiniert theoretisches Wissen mit praktischen Übungen, die auf realen Anwendungsfällen basieren. Nach der Schulung sind die Teilnehmer in der Lage, KI-Modelle mit Spring AI in Spring-Boot-Anwendungen zu integrieren, zu optimieren und produktiv einzusetzen. Sie werden verstehen, wie Retrieval-Augmented Generation (RAG) für die Verarbeitung unternehmensspezifischer Daten genutzt werden kann und wie Embeddings für die semantische Suche implementiert werden können. Darüber hinaus lernen sie, wie Anwendungen über das Model Context Protocol (MCP) Werkzeuge und Daten anbinden und wie sich KI-Agenten mit Spring AI umsetzen lassen.
- Dauer
- 3 Tage
- Umfang
- 24 Unterrichtsstunden
- Ort
- Bei Ihnen oder online

Inhalte des Seminars
Das ist der Standardumfang. Wählen Sie ab, was Ihr Team schon kann, und schicken Sie uns Ihre Auswahl.
- Wie Large Language Models arbeiten: Tokens, Kontextfenster, Wahrscheinlichkeiten
- Modelltypen: Chat-, Reasoning-, Embedding-, Bild- und Audio-Modelle
- Parameter wie Temperatur und maximale Tokenanzahl
- Stärken, Grenzen und Halluzinationen
- Kosten und Latenz von KI-Aufrufen
- Cloud-Modelle: OpenAI, Anthropic, Google, Mistral, Azure OpenAI, AWS Bedrock
- Offene Modelle wie Llama, Qwen, Mistral, Gemma oder gpt-oss
- Lokale und entfernte Modelle: Datenschutz, Kontrolle, Skalierbarkeit
- Kontextlänge und Parametergrößen einordnen
- Lokale Modelle mit Ollama: Installation, Modellverwaltung, CLI
- Alternativen wie Docker Model Runner oder LM Studio
- Überblick über Spring AI als Projekt im Spring-Ökosystem
- Abstraktionen für verschiedene KI-Anbieter und Modelle
- Spring Boot Starter für Modelle und Vektordatenbanken
- Architektur und Kernkomponenten von Spring AI
- Aufbau und Konfiguration des
ChatClient - Prompt-Erstellung und Strukturierung
- Message-Typen: User, System, Assistant
- Templating und Wiederverwendung von Prompts
- Streaming von Antworten
- Aufbau und Konfiguration des
- Verarbeitung von
ChatResponseund Metadaten - Structured Output: Antworten direkt auf Records und Java-Objekte abbilden
- Fehlerbehandlung und Wiederholungen
- Verarbeitung von
- Advisors: Interaktionen erweitern und verändern
SimpleLoggerAdvisor,SafeGuardAdvisor,MessageChatMemoryAdvisor- Chat Memory: Konversationsverläufe verwalten
- Persistentes Chat Memory, etwa über JDBC
- Werkzeuge für LLMs bereitstellen mit
@Tool - Ablauf eines Tool-Aufrufs
- Parameter, Rückgabewerte und Fehlerbehandlung
- Sicherheitsaspekte beim Aufruf von Werkzeugen
- Werkzeuge für LLMs bereitstellen mit
- Konzept und Architektur von MCP: Hosts, Clients und Server
- Tools, Ressourcen und Prompts
- Externe MCP-Server mit dem MCP-Client von Spring AI nutzen
- Eigene MCP-Server mit
@McpTool,@McpResourceund@McpPromptentwickeln - Transportarten: STDIO und Streamable HTTP
- Absicherung von MCP-Servern
- Grundlagen von Embeddings: Konvertierung von Daten in Vektoren
- Ähnlichkeitssuche und Distanzmaße
- Vektordatenbanken wie PGvector, Qdrant oder Chroma
VectorStore-API undSimpleVectorStore- Metadatenfilter und hybride Suche
- Konzept und Implementierung von RAG
QuestionAnswerAdvisorfür einfache RAG-Abfragen- Modulares RAG mit
RetrievalAugmentationAdvisor - Query-Transformation und Query-Expansion
- Dokumentenverarbeitung mit einer ETL-Pipeline:
DocumentReader,DocumentTransformer,DocumentWriter - Chunking-Strategien und Relevanz der Ergebnisse
- Workflows und Agenten im Vergleich
- Muster: Chain, Routing, Parallelisierung, Orchestrator-Worker, Evaluator-Optimizer
- Agenten mit Tools, MCP und Memory kombinieren
- Grenzen und Risiken autonomer Agenten
- Bilder und Dokumente als Eingabe
- Audio-Transkription und Sprachausgabe
- Bildgenerierung im Überblick
- KI-Anwendungen testen und evaluieren
- Evaluators und LLM-as-a-Judge
- Observability mit Micrometer: Token-Verbrauch, Kosten, Latenz
- Prompt Injection und Guardrails
- Datenschutz und rechtliche Aspekte
- Deployment und Skalierung von KI-Anwendungen
- Vergleich zwischen Spring AI und LangChain4j
- Integration von LangChain4j in Spring-Boot-Anwendungen
- Funktionsumfang und Besonderheiten beider Frameworks
- Migrationswege zwischen den Frameworks (Vertiefung im Kurs LangChain4j: KI in Spring-Boot-Anwendungen nutzen)