Zum Inhalt

LangChain4j: KI in Spring-Boot-Anwendungen nutzen

In diesem praxisorientierten Seminar lernen die Teilnehmer, wie KI-Modelle (Large Language Models, LLMs) mit LangChain4j in Spring-Boot-Anwendungen integriert werden können. Der Kurs kombiniert theoretisches Wissen mit praktischen Übungen, die auf realen Anwendungsfällen basieren. Nach der Schulung sind die Teilnehmer in der Lage, KI-Modelle mit LangChain4j in Spring-Boot-Anwendungen zu integrieren, zu optimieren und produktiv einzusetzen. Sie werden verstehen, wie Retrieval-Augmented Generation (RAG) für die Verarbeitung unternehmensspezifischer Daten genutzt werden kann, wie Anwendungen über das Model Context Protocol (MCP) Werkzeuge und Daten anbinden und wie KI-Agenten als Ergänzung klassischer Geschäftslogik implementiert werden können.

Dauer
3 Tage
Umfang
24 Unterrichtsstunden
Ort
Bei Ihnen oder online

Inhalte des Seminars

Das ist der Standardumfang. Wählen Sie ab, was Ihr Team schon kann, und schicken Sie uns Ihre Auswahl.

    • Wie Large Language Models arbeiten: Tokens, Kontextfenster, Wahrscheinlichkeiten
    • Modelltypen: Chat-, Reasoning-, Embedding-, Bild- und Audio-Modelle
    • Parameter wie Temperatur und maximale Tokenanzahl
    • Stärken, Grenzen und Halluzinationen
    • Kosten und Latenz von KI-Aufrufen
    • Cloud-Modelle: OpenAI, Anthropic, Google, Mistral, Azure OpenAI, GitHub Models
    • Offene Modelle wie Llama, Qwen, Mistral, Gemma oder gpt-oss
    • Lokale und Cloud-basierte Modelle: Datenschutz, Kontrolle, Skalierbarkeit
    • Lokale Modelle mit Ollama: Installation, Modellverwaltung, CLI
    • Open WebUI als Benutzeroberfläche für Ollama
    • KI-Bibliotheken in Java im Überblick
    • Architektur und Module von LangChain4j
    • Low-Level-API: ChatModel, ChatRequest, ChatResponse
    • Integration in Spring Boot mit den LangChain4j-Startern
    • Konfiguration von Modellen über application.properties
    • Deklarative KI-Schnittstellen mit AI Services
    • @AiService in Spring Boot
    • @SystemMessage, @UserMessage und Prompt-Variablen mit @V
    • Prompt-Templates und Wiederverwendung
    • Structured Output: Records und Java-Objekte als Rückgabetyp
    • Streaming von Antworten mit TokenStream
    • Konversationsverläufe mit ChatMemory
    • MessageWindowChatMemory und TokenWindowChatMemory
    • Gedächtnis pro Benutzer mit @MemoryId
    • Persistente Speicher für Chat Memory
    • Werkzeuge für LLMs bereitstellen mit @Tool und @P
    • Ablauf eines Tool-Aufrufs
    • Spring Beans als Tools
    • Fehlerbehandlung und Sicherheitsaspekte
    • Konzept und Architektur von MCP: Hosts, Clients und Server
    • Tools, Ressourcen und Prompts
    • Externe MCP-Server mit dem MCP-Client und McpToolProvider nutzen
    • Transportarten: STDIO und Streamable HTTP
    • Absicherung von MCP-Verbindungen
    • Grundlagen von Embeddings
    • EmbeddingModel und EmbeddingStore
    • Vektordatenbanken wie PGvector, Qdrant oder Chroma
    • Ähnlichkeitssuche und Metadatenfilter
    • Einstieg mit Easy RAG
    • Dokumente laden, zerlegen und indexieren: DocumentLoader, DocumentSplitter, EmbeddingStoreIngestor
    • Advanced RAG mit RetrievalAugmentor und ContentRetriever
    • Query-Transformation und Routing mit QueryTransformer und QueryRouter
    • Re-Ranking mit ScoringModel
    • Chunking-Strategien und Relevanz der Ergebnisse
    • Workflows und Agenten im Vergleich
    • Agenten deklarieren mit @Agent
    • Sequenzielle, parallele, bedingte und wiederholende Workflows
    • Supervisor-Agenten für dynamische Abläufe
    • KI-Agenten als Ergänzung klassischer Geschäftslogik
    • Grenzen und Risiken autonomer Agenten
    • Bilder und Dokumente als Eingabe
    • Bildgenerierung im Überblick
    • Guardrails mit InputGuardrail und OutputGuardrail
    • Prompt Injection erkennen und verhindern
    • KI-Anwendungen testen und evaluieren
    • Observability mit ChatModelListener und Micrometer: Token-Verbrauch, Kosten, Latenz
    • Datenschutz und rechtliche Aspekte
    • Deployment und Skalierung von KI-Anwendungen
    • Quarkus LangChain4j im Überblick
    • @RegisterAiService und Unterschiede zur Spring-Boot-Integration

Was Teilnehmer sagen

›Der Dozent ist auf alle Fragen eingegangen, war sehr kompetent und sympathisch.‹ Teilnehmer, University of Luxembourg