Agentic AI Engineering

Eine überzeugende Demo ist noch kein System, das sich verlässlich betreiben lässt. CTOs und Engineering Manager brauchen Belege zur Qualität, klar begrenzte Tool-Berechtigungen, kontrollierbare Kosten, einen Umgang mit Fehlern und ein Betriebsmodell. Wir entwickeln KI-Agenten auf der JVM mit Spring AI und Embabel und verbinden zielorientierte Planung mit Evaluationen, Observability und expliziten Schutzmassnahmen.

Discovery mit klarem Umfang und ein erster Agent für den produktiven Einsatz. Der Endpreis hängt von Umfang und Anzahl der Schnittstellen ab.

30-minütiges Gespräch buchen Team mit einem Training befähigen

Relevantes Ergebnis: Aus dem LLM-Proof-of-Concept eines Schweizer Unternehmens wurde ein KI-Agent mit expliziten Aktionen, einer Evaluationssuite, Guardrails und den nötigen Betriebsdaten für Überwachung und Fehlersuche.

Nicht sicher, ob Sie bereit sind? Nutzen Sie unsere kostenlose KI-Readiness-Checkliste: 35 Fragen, ohne Anmeldung, druckbar.

Womit Teams typischerweise zu uns kommen

Typische Fragen betreffen belastbare Evaluationsergebnisse, die Kostenverantwortung, Integration, Datenschutz und das Betriebsmodell.

  • Der Pilot lässt sich noch nicht betreiben

    Der Proof of Concept funktioniert auf dem vorgesehenen Demo-Pfad. Dem Team fehlen jedoch Evaluationen mit repräsentativen Fällen, reproduzierbare Ablaufprotokolle und ein Vorgehen zur Fehleranalyse.

  • Die Kostenverantwortung ist ungeklärt

    Der Token-Verbrauch schwankt und bleibt unsichtbar. Es fehlen Budgets pro Anfrage, eine Strategie für die Modellwahl und Daten, die teure von unnötigen Aufrufen unterscheiden.

  • Der Agent steht ausserhalb Ihrer Systemlandschaft

    Der Prototyp nutzt eine andere Laufzeitumgebung als die produktive Systemlandschaft. Das kann sinnvoll sein, bringt aber einen weiteren Deployment-Pfad, zusätzliche Betriebsverantwortung und eine eigene Sicherheitsprüfung mit sich. Diese Aufwände muss die Architektur berücksichtigen.

  • Der Datenschutz wurde zu spät berücksichtigt

    Datenstandort, Nachvollziehbarkeit und Aufbewahrung wurden im Prototyp nicht eingeplant. Klärt das Team sie erst, nachdem Anbieter, Datenflüsse und Tool-Grenzen feststehen, kann erhebliche Nacharbeit entstehen.

Was wir konkret bauen

Systeme mit KI-Agenten auf der JVM: Spring AI für den Modellzugriff und Embabel, ein von Spring-Gründer Rod Johnson entwickeltes Framework für zielorientierte Planung und KI-Agenten.

  • Zielorientierte Planung

    Goal-Oriented Action Planning plant dynamisch über typisierte Aktionen und explizite Bedingungen. Der gewählte Ablauf lässt sich nachvollziehen und prüfen. LLM-gestützte Aktionen bleiben nichtdeterministisch und benötigen Evaluationen.

  • Quellengestützter Datenzugriff

    RAG-Pipelines für Ihre Inhalte: Chunking- und Embedding-Strategie, Auswahl des Vector Stores, Evaluation des Retrievals und nachvollziehbare Quellenbelege für Antworten.

  • Tool- und Systemintegration

    Function Calling sowie Model Context Protocol Clients und Server, mit denen Agenten auf Ihre Systeme zugreifen. Dabei übernehmen wir die Autorisierungsgrenzen, die Ihre APIs bereits durchsetzen.

  • Evaluation und Guardrails

    Regressionssuiten für nichtdeterministisches Verhalten, Referenzdatensätze, Output-Validierung und Human-in-the-Loop-Prüfpunkte an den Schritten mit echtem Geschäftsrisiko.

  • Observability

    Instrumentierung mit Micrometer, Actuator und OpenTelemetry, damit Latenz, Token-Verbrauch, Fehlerbilder und Drift in den Dashboards Ihres Betriebsteams sichtbar werden.

  • Kosten- und Modellstrategie

    Routing zwischen lokalen und gehosteten Modellen, Caching, Disziplin bei der Prompt-Grösse und Budgets pro Anfrage, damit Kosten und Nutzen auch bei produktivem Volumen zusammenpassen.

So läuft ein Auftrag ab

Wir starten mit einem klar begrenzten Auftrag. Nach jeder Etappe können Sie entscheiden, ob und wie es weitergeht; die bisherigen Ergebnisse bleiben bei Ihnen.

  1. Bewerten

    Zwei bis drei Tage. Wir prüfen Anwendungsfall, Daten, Systemlandschaft und Rahmenbedingungen und sagen klar, ob ein Agent überhaupt der richtige Ansatz ist.

  2. Entwerfen

    Ziele, typisierte Aktionen, Grenzen der angebundenen Werkzeuge, Datenflüsse, Modellstrategie sowie Vorgaben zu Datenschutz und Governance werden dokumentiert und mit Ihren Architekturverantwortlichen besprochen, bevor Code entsteht.

  3. Bauen

    Wir implementieren den ersten Agenten durchgängig und arbeiten dabei mit Ihren Engineers, damit Ihr Team das System später selbst weiterentwickeln kann.

  4. Absichern und übergeben

    Evaluationen, Guardrails, Dashboards, Runbooks und eine Arbeitssession mit den Personen, die später den Betrieb verantworten. Anschliessend reduzieren wir unsere Mitarbeit.

Was Sie erhalten

Konkrete Ergebnisse, mit denen Ihr Team technisch weiterarbeiten kann.

  • Einen laufenden Agenten in Ihrer Umgebung, integriert in Ihre Systeme
  • Ein Architekturdokument mit Zielen, Aktionen, Tools und Datenflüssen
  • Eine Evaluation mit Referenzdatensätzen und Regressionssuiten
  • Guardrails und Human-in-the-Loop-Prüfpunkte bei risikoreichen Schritten
  • Observability-Dashboards für Latenz, Kosten und Fehlerbilder
  • Dokumentierte Entscheidungen zu Datenschutz und Modellwahl für Ihre Datenschutz- und Compliance-Fachpersonen
  • Runbooks und eine Übergabesession mit Ihrem Betriebsteam
  • Arbeitsbeispiele und Übergabesessions, die Ihren Engineers helfen, den Agenten weiterzuentwickeln

Für wen ist das gedacht?

  • CTOs und Engineering Manager mit JVM-Landschaft

    Sie betreiben Java und Spring in Produktion, der Verwaltungsrat erwartet KI auf der Roadmap und Sie brauchen einen tragfähigen Weg ohne unbegründeten Parallel-Stack, zusätzliche Pikettorganisation oder unerwartete Freigabearbeit.

  • Teams mit festgefahrenem Pilot

    Etwas funktioniert im Notebook oder Demo-Branch. Dem Team fehlen jedoch noch Evaluationen mit repräsentativen Fällen, Kostenkontrollen, eine Sicherheitsprüfung und ein Betriebsmodell.

  • Architekten, die freigeben müssen

    Sie brauchen ein Agenten-Design, das Sie im Architektur-Gremium begründen können: einen nachvollziehbaren Ablauf, Evaluationsergebnisse, klare Fehlerbilder, begrenzte Kosten und dokumentierte Datenflüsse.

Warum wir

Unsere Arbeit verbindet Erfahrung mit produktiven Java-Systemen mit öffentlicher Wissensvermittlung, technischen Publikationen und praktischer Arbeit mit Spring AI und Embabel.

Wir unterrichten das öffentlich

Ganztägige Embabel- und Spring-AI-Workshops bei W-JAX und Workshop-Tagen sowie Sessions bei Spring I/O, JAX und JUG Switzerland.

Wir veröffentlichen technische Artikel

Im Java Magazin schreiben wir über Embabel, Spring AI und MCP-Server und legen unsere technischen Entscheidungen offen.

Wir bauen die Werkzeuge

Wir pflegen einen Open-Source-Spring-Boot-Starter, der Embabel-Agenten-Workflows live über einen Actuator-Endpunkt visualisiert.

Wir verstehen das System rund um den Agenten

Java Champion, Oracle ACE und VMware Certified Spring Instructor. Mehr als 20 Jahre Enterprise Java helfen uns, die KI-Arbeit mit Architektur, Sicherheit, Delivery und Betrieb zu verbinden, also mit den Bereichen, die Ihr Team bereits verantwortet.

Mehr über die Menschen dahinter auf unserer Unternehmensseite oder im Spring-AI-&-Embabel-Training, wenn Sie es lieber selbst bauen möchten.

Häufige Fragen

Warum Java statt Python?

Python kann die richtige Wahl sein. Wenn Fachlogik, Authentifizierung und Betrieb bereits auf der JVM liegen, verursacht ein zusätzlicher Laufzeit-Stack jedoch weitere Schnittstellen und Betriebsaufwand. Spring AI integriert den Modellzugriff in das Framework, das Ihr Team bereits kennt.

Was ist Embabel?

Embabel ist ein Open-Source-Framework für KI-Agenten auf der JVM, entwickelt von Rod Johnson, dem Gründer des Spring Framework. Es plant dynamisch über typisierte Aktionen und explizite Bedingungen. Der gewählte Ablauf lässt sich nachvollziehen; LLM-gestützte Schritte bleiben nichtdeterministisch und benötigen Evaluationen.

Wir haben bereits einen Proof of Concept.

Dann prüfen wir zuerst, was sich weiterverwenden lässt. Wir ergänzen oder überarbeiten gezielt die Teile, die den Anforderungen an Evaluation, Kostenkontrolle, Datenschutz und Betrieb noch nicht genügen.

Mit welchen Modellanbietern arbeiten Sie?

OpenAI, Azure OpenAI, Anthropic, Google, Mistral und lokale Modelle über Ollama. Die Abstraktionen von Spring AI erleichtern den Wechsel zwischen unterstützten Anbietern. Das hilft bei Vorgaben zur Datenresidenz und bei der Kostenkontrolle, wenn sich Modelle verändern.

Wie gehen Sie mit Schweizer Datenschutz um?

Wir berücksichtigen ihn in der ersten Architektursession: wo Daten verarbeitet werden dürfen, welche Anbieter akzeptabel sind, was in Ihrer Umgebung bleibt, was protokolliert wird und wie Prompts und Modellantworten aufbewahrt werden. Lokale Modelle prüfen wir, wenn das freigegebene Konzept vorsieht, dass Daten in Ihrer Umgebung bleiben.

Was kostet das?

Der Einstieg umfasst eine klar abgegrenzte Discovery und einen ersten Agenten für den produktiven Einsatz. Der Endpreis hängt von Umfang, Anzahl der Schnittstellen und dem Anteil ab, den Ihr Team übernimmt. Im Gespräch klären wir, welchen Umfang und welche Integrationen wir kalkulieren müssen.

Planen Sie den Weg vom Piloten in den produktiven Betrieb

Buchen Sie ein kurzes Gespräch mit Patrick, 30 Minuten genügen. Bringen Sie den Anwendungsfall und die wichtigsten Rahmenbedingungen mit. Gemeinsam klären wir, welche Belege Sie vor einer Umsetzung brauchen und wie ein sinnvoller erster Schritt aussieht.

30-minütiges Gespräch buchen Alle Leistungen