Multi-Agent-Systeme mit Human-in-the-Loop: so bleibt Kontrolle im Mittelstand

Veröffentlicht am · Aktualisiert am

Mehrere spezialisierte KI-Agenten plus menschliche Freigaben: wann Human-in-the-Loop im Mittelstand Pflicht ist, wie Orchestration mit Gemini/Vertex und bekannten Patterns zusammenspielt, und wo Du ohne Framework-Hype startest.

Viele KI-Demos zeigen einen Chat, der alles allein erledigt. Im Mittelstand sieht der Alltag anders aus: Angebote gehen an Kunden, Rechnungen werden gebucht, Verträge landen bei der Rechtsberatung. Genau dort brauchst Du nicht nur mehr Agenten, sondern klare Stellen, an denen ein Mensch entscheidet. Multi-Agent-Systeme mit Human-in-the-Loop (HITL) sind dafür der nüchterne Rahmen: spezialisierte Agenten übernehmen Recherche, Entwurf und Prüfung, und kritische Schritte warten auf Freigabe.

Dieser Beitrag erklärt, wann HITL Pflicht ist, wie Du Agenten und Freigaben sinnvoll schneidest und wie das mit Gemini, Vertex AI und Orchestrierungs-Patterns zusammenspielt, ohne dass Du jede Woche ein neues Framework einführst.

Was Multi-Agent plus Human-in-the-Loop meint

Ein Multi-Agent-System verteilt Arbeit auf mehrere Rollen statt alles in einem Prompt zu vermischen. Typisch sind zum Beispiel:

  • Recherche-Agent: holt Quellen aus Drive, CRM oder internen Wikis.
  • Entwurfs-Agent: schreibt eine Antwort, ein Angebot oder eine Zusammenfassung.
  • Prüf-Agent: bewertet Vollständigkeit, Ton und offensichtliche Risiken.
  • Menschliche Freigabe: entscheidet bei Geld, Außenkommunikation oder unsicheren Fällen.

Human-in-the-Loop heißt: An definierten Gates stoppt der Ablauf, bis eine berechtigte Person freigibt, ändert oder ablehnt. Das ist kein Zeichen von Misstrauen gegenüber KI, sondern Betriebssicherheit. Die Vertex AI Agent Builder-Dokumentation beschreibt Agenten ebenfalls als Bausteine, die Tools und Modelle nutzen. Die Freigabelogik bleibt Deine Verantwortung.

Wann HITL im Mittelstand wirklich zählt

Nicht jeder Schritt braucht einen Menschen. HITL lohnt sich vor allem dort, wo Fehler teuer oder rechtlich heikel sind:

  • Finanzen: Zahlungsfreigaben, Buchungsvorschläge, Rabatte über einem Schwellenwert.
  • Kundenkommunikation: E-Mails an Bestandskunden, Eskalationen, öffentlich wirkende Antworten.
  • Rechtlich sensible Themen: Vertragsentwürfe, Datenschutzauskünfte, HR-Fragen (auch wenn keine Rechtsberatung durch die KI erfolgt).
  • Unklare Quellenlage: Wenn Retrieval nichts Passendes findet oder Widersprüche in den Dokumenten liegen.

Dagegen können reine interne Entwürfe, Zusammenfassungen freigegebener Meeting-Notizen oder das Sortieren von Tickets oft ohne Gate laufen, solange Logging und Rechte stimmen.

Orchestrierung ohne Framework-Hype

In früheren Beiträgen haben wir Patterns wie LangGraph, AutoGen und LlamaIndex Workflows beleuchtet. Für HITL zählt weniger der Markenname als drei Eigenschaften:

  1. Explizite Schritte: Du siehst, welcher Agent was getan hat.
  2. Unterbrechbare Gates: Der Lauf wartet auf Freigabe, statt still weiterzuschreiben.
  3. Protokoll: Frage, Quellen, Entwurf und Freigabe-Entscheidung sind nachvollziehbar.

Ob Du das mit einem Graph-basierten Orchestrator, event-basierten Workflows oder einem schlanken Dienst auf Vertex AI baust, ist zweitrangig. Gemini in Google Workspace bleibt oft der schnellere Einstieg für Team-Wissen. Eigene Agenten-Pipelines lohnen sich, wenn Du Tools, Rechte und Freigaben dauerhaft steuern willst. Mehr zu Gemini und Agenten-Bausteinen findest Du auch in der Gemini API-Dokumentation.

Ein praxisnahes Schnittmuster

Stell Dir einen Dienstleister mit 40 Mitarbeitenden vor. Anfragen kommen per Mail und Formular. Ein möglicher Ablauf:

  1. Ein Klassifizierungs-Agent erkennt Thema und Dringlichkeit.
  2. Ein Recherche-Agent sucht in freigegebenen Angebotsvorlagen und Preistabellen.
  3. Ein Entwurfs-Agent formuliert eine Antwort mit Quellenangaben.
  4. Unter einem Schwellenwert (z. B. Standard-Anfrage ohne Preisnachlass) geht die Antwort nach automatischer Qualitätsprüfung raus.
  5. Darüber oder bei sensiblen Themen stoppt der Lauf: Eine feste Rolle prüft, ändert und gibt frei.

Wichtig: Der Mensch bekommt Kontext, nicht nur den finalen Text. Zeig Quellen, Unsicherheiten und was der Prüf-Agent beanstandet hat. Sonst wird Freigabe zur Blindunterschrift.

Wenn Deine Agenten über MCP-Server auf Systeme zugreifen, gelten dieselben Grundsätze besonders streng. Eine Checkliste dazu findest Du im Beitrag MCP-Server sicher anbinden.

Rechte, Logging und Least Privilege

Multi-Agent ohne Rechtekonzept skaliert Risiko. Faustregeln:

  • Jeder Agent bekommt nur die Tools und Daten, die er braucht.
  • Personal- und Finanzdaten nie in denselben Index wie Marketing-Texte legen, wenn die Zielgruppe unterschiedlich ist.
  • Freigaben an Rollen binden (Buchhaltung, Vertrieb, Leitung), nicht an "irgendjemanden im Chat".
  • Jede Entscheidung loggen: Wer hat wann was freigegeben?

Das klingt nach Overhead. In der Praxis spart es Nacharbeit und schützt Vertrauen im Team.

Häufige Fehler

  • Zu viele Agenten zu früh: Drei klare Rollen schlagen zehn vage Personas.
  • HITL überall: Wenn jeder Schritt wartet, stirbt der Nutzen. Gate nur kritische Pfade.
  • Kein Evaluationsset: Ohne typische Fälle merkst Du Qualitätsverlust erst beim Kunden. Wie Du ein Golden Set und Regressionstests aufsetzt, steht in Evaluation und Betrieb von RAG und KI-Agenten.
  • Framework vor Problem: Wenn Gemini in Workspace plus n8n schon reicht, brauchst Du kein Agenten-Orchester.

So startest Du in zwei Wochen

  1. Woche 1: Einen Prozess wählen (z. B. Standard-Anfragen). Risiken und Freigabe-Schwellen aufschreiben.
  2. Woche 1: Quellen und Rechte bereinigen. Ohne das hilft kein Agent.
  3. Woche 2: Zwei bis drei Agentenschritte plus ein Freigabe-Gate bauen, mit Logging.
  4. Woche 2: Zehn echte Beispielfälle manuell gegenprüfen. Schwellen anpassen.

Deschalet baut keine Kundenwebsites. Wir helfen bei Google Workspace, Automatisierung und KI-Projekten, die in den Betrieb passen, inklusive ehrlicher Einschätzung, ob Multi-Agent überhaupt nötig ist.

Freigabe-Gates sind auch der wichtigste Schutz gegen Prompt Injection über Mails, PDFs oder Wissensdatenbanken. Mehr dazu im Beitrag Agent-Guardrails und Prompt Injection: So schützt Du KI-Agenten im Mittelstand.

Laufen Eure Agenten auf unterschiedlichen Plattformen oder bei verschiedenen Anbietern, braucht es einen gemeinsamen Standard für die Zusammenarbeit. Was das Agent2Agent-Protokoll dafür regelt, steht in A2A und MCP: Wann KI-Agenten miteinander sprechen sollten.

Wie Freigaben technisch in LangGraph umgesetzt werden, mit Interrupts, Checkpointern und klaren Regeln für Seiteneffekte, zeigt LangGraph in Produktion.

Menschliche Freigaben sind auch bei Agenten Pflicht, die Webseiten und Programme bedienen. Wie Gemini Computer Use dafür eine Bestätigung pro Aktion vorsieht, zeigt Gemini Computer Use: Browser-Agenten sicher im Mittelstand einsetzen.

Eine Freigabe ist nur dann ein echtes Sicherheitsnetz, wenn die Person ihre eigene Sicht gebildet hat. Was eine Anthropic-Studie vom 27. Oktober 2026 dazu zeigt, beschreibt Wenn der KI-Agent mitentscheidet: Was die Anthropic-Studie zu Expertenurteilen für Freigaben im Betrieb bedeutet.

Wenn mehrere Agenten lange laufen, wird Upload-Zeit zum Flaschenhals. Abhilfe mit Claude Message Threads beschreibt Claude Message Threads: Weniger Latenz für lange KI-Agenten im Mittelstand.

Fazit

Multi-Agent-Systeme werden im Mittelstand dann nützlich, wenn Spezialisierung und menschliche Kontrolle zusammenkommen. HITL ist kein Bremsklotz, sondern der Unterschied zwischen Demo und produktivem Betrieb. Starte klein, gate das, was wehtut, und miss Qualität, bevor Du skalierst.

Wenn Du prüfen willst, wie bereit Deine Organisation für solche Abläufe ist: Mach unseren kostenfreien AI Readiness Check. Oder sprich mit uns in einem kostenlosen Erstgespräch über Deinen konkreten Prozess.