Agentische KI-Architektur mit Human-in-the-Loop-Kontrollen: Wo der Checkpoint sitzt

Dieser Leitfaden richtet sich an CTOs und Engineering Leads, die eine Agenten-Architektur entwerfen oder prüfen, sowie an technische Product Owner, die entscheiden, wie viel eines Workflows ein Agent eigenständig ausführen soll. Unser Leitfaden KI-Agent vs. Workflow-Automatisierung klärt, ob eine Aufgabe überhaupt einen Agenten benötigt; unser Leitfaden KI-Agenten-Sicherheit und menschliche Freigabekontrollen sichert einen einzelnen Approval-Gate gegen Injection und nicht konforme automatisierte Entscheidungen ab. Diese Seite liegt dazwischen: Sobald ein Agent vorhanden ist und feststeht, dass ein Gate benötigt wird, beschreibt sie, wo das Gate im Control Loop sitzt und wie das System die Wartezeit überbrückt. Wenn der vorgeschlagene Tool-Aufruf ein ERP-, CRM- oder Finanzsystem erreicht, entwirft unser MCP-Server-Leitfaden den Server und die Approval-Grenze davor.

Inhalt dieses Leitfadens

• Der Control Loop hat drei Stellen für eine Person, nicht eine
• Das Muster wählen
• Die Checkpoint-Platzierungsmatrix aufbauen
• Zustands- und Checkpoint-Design: Was die Pause überleben muss
• Wo KI und Checkpoint-Design zusammentreffen
• Was an Auslieferungsnachweis existiert und was nicht
• Alternativen und Auswahlkriterien
• Grenzen dieses Leitfadens
• Häufig gestellte Fragen
• Nächster Schritt

Der Control Loop hat drei Stellen für eine Person, nicht eine

Ein Agent durchläuft eine Perceive-Decide-Act-Schleife: Er liest den Kontext, schlägt einen Tool-Aufruf vor und wartet (sofern ein Gate gilt) auf eine Entscheidung, bevor er handelt. Die meisten Teams wählen standardmäßig eine einzige Checkpoint-Form – eine Chat-Nachricht, die blockiert, bis jemand antwortet – weil sie am einfachsten zu bauen ist. Sie ist bei hohem Volumen auch die langsamste und trainiert Freigeber, wie unser Sicherheits- und Freigabe-Leitfaden anmerkt, dazu, Anfragen ungelesen durchzuwinken. Es gibt drei Formen, und eine Architektur sollte bewusst zwischen ihnen wählen, nicht nach Voreinstellung:

• Synchrones Blocking. Der Lauf hält am gesperrten Schritt an; nichts Nachgelagertes in diesem Lauf schreitet fort, bis eine Person antwortet.
• Asynchrone Warteschlange. Die gesperrte Aktion wird in eine Warteschlange oder ein Durable Promise geschrieben; der Lauf führt andere unabhängige Arbeit fort, und der Agent (oder der nächste Lauf) nimmt die Antwort auf, wenn sie eintrifft.
• Optimistische Ausführung mit kompensierender Aktion. Der Schritt wird sofort ausgeführt, und eine vorgefertigte Umkehraktion (Rückerstattung, Rücknahme, Revert) wird in die Warteschlange gestellt; eine Person prüft im Nachhinein und löst die Umkehraktion bei Bedarf aus.

Das Muster wählen

Zustands- und Checkpoint-Design: Was die Pause überleben muss

Ein synchrones Gate kann den Zustand in einem laufenden Prozess halten, weil während des Wartens nichts anderes geschieht. Asynchrone und optimistische Muster können das nicht: Der Prozess kann neu starten, der Worker kann abstürzen, und die Wartezeit kann Stunden dauern. Durable-Execution-Plattformen und Agenten-Frameworks konvergieren auf dieselbe Antwort – Zustand außerhalb des Prozessspeichers persistieren, mit einer Run- oder Thread-ID als Schlüssel, und genau dort fortsetzen, wo der Lauf pausiert hat, anstatt ihn erneut abzuspielen. Vier Felder sind für einen Agenten-Checkpoint am wichtigsten: die Eingaben, die der Agent bisher gelesen hat (einschließlich abgerufener Kontextdaten, wenn der Lauf eine Wissensdatenbank berührt, wie in unserem RAG-Architektur-Leitfaden), der genaue vorgeschlagene Tool-Aufruf mit seinen Parametern, eine stabile Run- oder Thread-ID, an die die Freigabe-Antwort gebunden ist, und ein Idempotenz-Schlüssel, weil ein fortgesetzter Lauf häufig von oben in den pausierten Schritt eintritt und einen Seiteneffekt wie eine Belastung oder eine doppelte Nachricht nicht wiederholen darf. LangChains Interrupt-and-Resume-Modell persistiert beim Pause einen vollständigen Zustands-Snapshot und stellt ihn beim Resume wieder her; Cloud-Workflow-Callback-Muster (z. B. AWS-Step-Functions-ähnliche Task-Tokens) halten den pausierten Schritt sichtbar und im Leerlauf abrechenbar, anstatt einen Live-Thread zu halten; Durable-Promise-Muster wie Restates Awakeables binden die Freigabe an eine Callback-ID, die einen Prozessneustart übersteht. Dies ist keine Produktempfehlung: Netbase arbeitet mit den wichtigsten kommerziellen und Open-Source-KI-Tools und -Modellen, die je Projekt ausgewählt werden, und entwirft den Checkpoint rund um den Orchestrierungs-Layer, den ein Projekt bereits verwendet.

Was an Auslieferungsnachweis existiert und was nicht

• Was existiert. Netbase hat KI für nicht namentlich genannte Kunden ausgeliefert, einschließlich der oben genannten Moderation- und Chatbot-Nachweise, bei denen die Ausgabe oder Aktion eines Agenten auf eine personenorientierte Warteschlange oder einen CRM-Workflow wartet oder damit synchronisiert wird. Netbase befolgt eigene Sicherheitspraktiken (Secure Code Review, TLS bei der Übertragung und AES im Ruhezustand, rollenbasierte Zugriffskontrolle, MFA für Admin-Dashboards, Vulnerability-Scanning und Penetrationstests) und verfügt über ISO-27001-Zertifizierung sowie eine SOC-2-Type-II-Attestierung für den eigenen Betrieb; siehe Sicherheit und Compliance.
• Was nicht existiert. Kein veröffentlichter Nachweis von Netbase nennt eine Resume-Zeit, eine Warteschlangentiefe, eine Freigabequote oder eine Vorfallsanzahl für einen pausierten Agenten-Lauf, und kein Nachweis benennt, welches Orchestrierungs-Framework oder welche Workflow-Engine bei einer bestimmten Auslieferung verwendet wurde. Die Zertifizierungen von Netbase decken den eigenen Betrieb ab; sie erstrecken sich nicht auf das System eines Kunden.

Alternativen und Auswahlkriterien

Dieselben vier Kriterien aus der Matrix oben entscheiden zwischen diesen Zeilen: Reversibilität des schlimmsten Falls, die vom Unternehmen akzeptierte Latenz, gemessenes Vertrauen auf realen Fällen und ob überhaupt eine getestete kompensierende Aktion existiert.

Grenzen dieses Leitfadens

• Er beschreibt Architekturmuster, nicht die Garantien eines bestimmten Frameworks; jeder Orchestrierungs-Layer und jede Workflow-Engine implementiert Interrupt-, Callback- und Durable-Promise-Muster leicht unterschiedlich, und die zitierten Quellen dokumentieren das Verhalten ihres eigenen Produkts, keinen universellen Standard.
• Er ist allgemeine technische Orientierung, keine Rechtsberatung; ob die Entscheidung eines Agenten nach dem EU AI Act oder der DSGVO menschliche Aufsicht erfordert, ist eine rechtliche Beurteilung, die unser Leitfaden KI-Agenten-Sicherheit und menschliche Freigabekontrollen behandelt, nicht dieser.

Nächster Schritt

Teilen Sie den Agenten, den Sie entwerfen, die von ihm vorgeschlagenen Aktionen und wie lange eine Entscheidung sicher warten kann, und wir vereinbaren einen Solution Review, um seine Checkpoints zu platzieren und den Zustand zu entwerfen, den er für den Resume benötigt. Sie können auch KI-Automatisierung und Agenten oder weitere Netbase-Insights einsehen.

Verwandte Leistungen und Lösungen