Zum Inhalt

Spring AI: KI in Spring-Boot-Anwendungen nutzen

In diesem praxisorientierten Seminar lernen die Teilnehmer, wie KI-Modelle (Large Language Models, LLMs) mit Spring AI in Spring-Boot-Anwendungen integriert werden können. Der Kurs kombiniert theoretisches Wissen mit praktischen Übungen, die auf realen Anwendungsfällen basieren. Nach der Schulung sind die Teilnehmer in der Lage, KI-Modelle mit Spring AI in Spring-Boot-Anwendungen zu integrieren, zu optimieren und produktiv einzusetzen. Sie werden verstehen, wie Retrieval-Augmented Generation (RAG) für die Verarbeitung unternehmensspezifischer Daten genutzt werden kann und wie Embeddings für die semantische Suche implementiert werden können. Darüber hinaus lernen sie, wie Anwendungen über das Model Context Protocol (MCP) Werkzeuge und Daten anbinden und wie sich KI-Agenten mit Spring AI umsetzen lassen.

Dauer
3 Tage
Umfang
24 Unterrichtsstunden
Ort
Bei Ihnen oder online

Inhalte des Seminars

Das ist der Standardumfang. Wählen Sie ab, was Ihr Team schon kann, und schicken Sie uns Ihre Auswahl.

    • Wie Large Language Models arbeiten: Tokens, Kontextfenster, Wahrscheinlichkeiten
    • Modelltypen: Chat-, Reasoning-, Embedding-, Bild- und Audio-Modelle
    • Parameter wie Temperatur und maximale Tokenanzahl
    • Stärken, Grenzen und Halluzinationen
    • Kosten und Latenz von KI-Aufrufen
    • Cloud-Modelle: OpenAI, Anthropic, Google, Mistral, Azure OpenAI, AWS Bedrock
    • Offene Modelle wie Llama, Qwen, Mistral, Gemma oder gpt-oss
    • Lokale und entfernte Modelle: Datenschutz, Kontrolle, Skalierbarkeit
    • Kontextlänge und Parametergrößen einordnen
    • Lokale Modelle mit Ollama: Installation, Modellverwaltung, CLI
    • Alternativen wie Docker Model Runner oder LM Studio
    • Überblick über Spring AI als Projekt im Spring-Ökosystem
    • Abstraktionen für verschiedene KI-Anbieter und Modelle
    • Spring Boot Starter für Modelle und Vektordatenbanken
    • Architektur und Kernkomponenten von Spring AI
    • Aufbau und Konfiguration des ChatClient
    • Prompt-Erstellung und Strukturierung
    • Message-Typen: User, System, Assistant
    • Templating und Wiederverwendung von Prompts
    • Streaming von Antworten
    • Verarbeitung von ChatResponse und Metadaten
    • Structured Output: Antworten direkt auf Records und Java-Objekte abbilden
    • Fehlerbehandlung und Wiederholungen
    • Advisors: Interaktionen erweitern und verändern
    • SimpleLoggerAdvisor, SafeGuardAdvisor, MessageChatMemoryAdvisor
    • Chat Memory: Konversationsverläufe verwalten
    • Persistentes Chat Memory, etwa über JDBC
    • Werkzeuge für LLMs bereitstellen mit @Tool
    • Ablauf eines Tool-Aufrufs
    • Parameter, Rückgabewerte und Fehlerbehandlung
    • Sicherheitsaspekte beim Aufruf von Werkzeugen
    • Konzept und Architektur von MCP: Hosts, Clients und Server
    • Tools, Ressourcen und Prompts
    • Externe MCP-Server mit dem MCP-Client von Spring AI nutzen
    • Eigene MCP-Server mit @McpTool, @McpResource und @McpPrompt entwickeln
    • Transportarten: STDIO und Streamable HTTP
    • Absicherung von MCP-Servern
    • Grundlagen von Embeddings: Konvertierung von Daten in Vektoren
    • Ähnlichkeitssuche und Distanzmaße
    • Vektordatenbanken wie PGvector, Qdrant oder Chroma
    • VectorStore-API und SimpleVectorStore
    • Metadatenfilter und hybride Suche
    • Konzept und Implementierung von RAG
    • QuestionAnswerAdvisor für einfache RAG-Abfragen
    • Modulares RAG mit RetrievalAugmentationAdvisor
    • Query-Transformation und Query-Expansion
    • Dokumentenverarbeitung mit einer ETL-Pipeline: DocumentReader, DocumentTransformer, DocumentWriter
    • Chunking-Strategien und Relevanz der Ergebnisse
    • Workflows und Agenten im Vergleich
    • Muster: Chain, Routing, Parallelisierung, Orchestrator-Worker, Evaluator-Optimizer
    • Agenten mit Tools, MCP und Memory kombinieren
    • Grenzen und Risiken autonomer Agenten
    • Bilder und Dokumente als Eingabe
    • Audio-Transkription und Sprachausgabe
    • Bildgenerierung im Überblick
    • KI-Anwendungen testen und evaluieren
    • Evaluators und LLM-as-a-Judge
    • Observability mit Micrometer: Token-Verbrauch, Kosten, Latenz
    • Prompt Injection und Guardrails
    • Datenschutz und rechtliche Aspekte
    • Deployment und Skalierung von KI-Anwendungen
    • Vergleich zwischen Spring AI und LangChain4j
    • Integration von LangChain4j in Spring-Boot-Anwendungen
    • Funktionsumfang und Besonderheiten beider Frameworks
    • Migrationswege zwischen den Frameworks (Vertiefung im Kurs LangChain4j: KI in Spring-Boot-Anwendungen nutzen)

Was Teilnehmer sagen

›Der PrimeFaces-Kurs mir persönlich sehr gut gefallen. Der Kursleiter hat es geschafft, uns die Besonderheiten von PrimeFaces zu vermitteln.‹ Greta Z., Raiffeisenverband