Agentic-AI-Architektur mit Human-in-the-Loop-Kontrollen: wo der Checkpoint sitzt

Dieser Leitfaden richtet sich an CTOs und Engineering Leads, die eine Agentenarchitektur entwerfen oder pruefen, sowie an technische Product Owner, die entscheiden, wie viel eines Workflows ein Agent eigenstaendig durchfuehren soll. Unser Leitfaden KI-Agent vs. Workflow-Automatisierung entscheidet, ob eine Aufgabe ueberhaupt einen Agenten benoetigt; unser Leitfaden KI-Agenten-Sicherheit und Freigabekontrollen sichert einen einzelnen Freigabe-Gate gegen Injection und nicht-konforme automatisierte Entscheidungen ab. Diese Seite liegt dazwischen: Sobald Sie einen Agenten haben und wissen, dass ein Gate benoetigt wird, legt sie fest, wo das Gate im Kontrollkreislauf sitzt und wie das System die Wartezeit ubersteht.

Inhalt dieses Leitfadens

• Der Kontrollkreislauf bietet drei Positionen fuer eine Person, nicht eine
• Das richtige Muster waehlen
• Die Checkpoint-Platzierungsmatrix aufbauen
• Zustands- und Checkpoint-Design: Was die Pause ueberstehen muss
• Wo KI und Checkpoint-Design zusammentreffen
• Was an Lieferergebnissen vorliegt und was nicht
• Alternativen und Auswahlkriterien
• Grenzen dieses Leitfadens
• Haeufig gestellte Fragen
• Naechster Schritt

Der Kontrollkreislauf bietet drei Positionen fuer eine Person, nicht eine

Ein Agent durchlaeuft einen Perceive-Decide-Act-Loop: Er liest Kontext, schlaegt einen Tool-Aufruf vor und wartet (wo ein Gate gilt) auf eine Entscheidung, bevor er handelt. Die meisten Teams verwenden standardmaessig eine einzige Checkpoint-Form -- eine Chat-Nachricht, die blockiert, bis jemand antwortet -- weil diese am einfachsten zu bauen ist. Sie ist auch die langsamste bei hohem Volumen und, wie unser Sicherheits- und Freigabeleitfaden anmerkt, jene Form, die Genehmiger trainiert, nicht mehr zu lesen. Es gibt drei Formen, und eine Architektur sollte bewusst zwischen ihnen waehlen, nicht standardmaessig:

• Synchrones Blockieren. Der Lauf haelt am gesperrten Schritt an; nichts Nachgelagertes in diesem Lauf schreitet fort, bis eine Person antwortet.
• Asynchrone Warteschlange. Die gesperrte Aktion wird in eine Warteschlange oder ein Durable Promise geschrieben; der Lauf setzt andere unabhaengige Arbeit fort, und der Agent (oder der naechste Lauf) nimmt die Antwort auf, wenn sie eintrifft.
• Optimistische Ausfuehrung mit kompensierender Aktion. Der Schritt wird sofort ausgefuehrt, und eine vorgefertigte Umkehraktion (Erstattung, Ruecknahme, Revert) wird in die Warteschlange gestellt; eine Person prueft nachtraglich und loest die Umkehraktion bei Bedarf aus.

Das richtige Muster waehlen

Zustands- und Checkpoint-Design: Was die Pause ueberstehen muss

Ein synchrones Gate kann den Zustand in einem laufenden Prozess halten, da waehrend der Wartezeit nichts anderes passiert. Asynchrone und optimistische Muster koennen das nicht: Der Prozess kann neu starten, der Worker kann abstuerzen, und die Wartezeit kann Stunden dauern. Durable-Execution-Plattformen und Agenten-Frameworks konvergieren auf dieselbe Antwort -- Zustand ausserhalb des Prozessspeichers speichern, mit einer Lauf- oder Thread-ID als Schluessel, und den Lauf genau dort fortsetzen, wo er pausiert hat, anstatt ihn neu zu starten. Vier Felder sind fuer einen Agenten-Checkpoint am wichtigsten: die Eingaben, die der Agent bisher gelesen hatte (einschliesslich abgerufenem Kontext, wo der Lauf eine Wissensbasis beruehrt, wie in unserem RAG-Architektur-Leitfaden), der genaue vorgeschlagene Tool-Aufruf mit seinen Parametern, eine stabile Lauf- oder Thread-Kennung, an die die Genehmigungsantwort gebunden ist, und ein Idempotenzschluessel, da ein fortgesetzter Lauf haeufig von oben in den pausierten Schritt eintritt und keinen Nebeneffekt wie eine Abbuchung oder eine doppelte Nachricht wiederholen darf. LangChains Interrupt-und-Resume-Modell speichert einen vollstaendigen Zustands-Snapshot bei der Pause und stellt ihn bei Wiederaufnahme wieder her; Cloud-Workflow-Callback-Muster (zum Beispiel Task-Tokens im AWS-Step-Functions-Stil) halten den pausierten Schritt sichtbar und abrechenbar-inaktiv, anstatt einen Live-Thread zu halten; Durable-Promise-Muster wie Restates Awakeables binden die Genehmigung an eine Callback-ID, die einen Prozessneustart ubersteht. Dies ist keine Produktempfehlung: Netbase arbeitet mit den wichtigsten kommerziellen und Open-Source-KI-Tools und -Modellen, die projektbezogen ausgewaehlt werden, und entwirft den Checkpoint rund um den jeweiligen Orchestrierungslayer, den ein Projekt bereits verwendet.

Was an Lieferergebnissen vorliegt und was nicht

• Was vorliegt. Netbase hat KI fuer nicht namentlich genannte Kunden geliefert, einschliesslich der oben genannten Moderations- und Chatbot-Projekte, bei denen die Ausgabe oder Aktion eines Agenten auf eine personenbezogene Warteschlange oder einen CRM-Workflow wartet oder damit synchronisiert wird. Netbase folgt eigenen Sicherheitspraktiken (sichere Code-Ueberpruefung, TLS im Transit und AES im Ruhezustand, rollenbasierte Zugriffskontrolle, MFA fuer Admin-Dashboards, Schwachstellen-Scanning und Penetrationstests) und verfuegt ueber eine ISO-27001-Zertifizierung und eine SOC-2-Typ-II-Bescheinigung fuer den eigenen Betrieb; siehe Sicherheit und Compliance.
• Was nicht vorliegt. Kein veroeffentlichter Bericht von Netbase enthaelt eine Resume-Zeit, eine Warteschlangentiefe, eine Genehmigungsrate oder eine Vorfallszahl fuer einen pausierten Agentenlauf, und kein Bericht nennt, welches Orchestrierungs-Framework oder welche Workflow-Engine bei einer bestimmten Lieferung verwendet wurde. Die Zertifizierungen von Netbase decken den eigenen Betrieb ab; sie erstrecken sich nicht auf das System eines Kunden.

Alternativen und Auswahlkriterien

Dieselben vier Kriterien aus der Matrix oben entscheiden zwischen diesen Zeilen: Umkehrbarkeit des schlimmsten Falls, die vom Unternehmen akzeptierte Latenz, gemessene Konfidenz anhand realer Faelle und ob ueberhaupt eine getestete kompensierende Aktion existiert.

Grenzen dieses Leitfadens

• Er beschreibt Architekturmuster, nicht die Garantien eines spezifischen Frameworks; jeder Orchestrierungslayer und jede Workflow-Engine implementiert Interrupt-, Callback- und Durable-Promise-Muster leicht unterschiedlich, und die zitierten Quellen dokumentieren das Verhalten ihres eigenen Produkts, keinen universellen Standard.
• Er ist allgemeine technische Orientierung, keine Rechtsberatung; ob die Entscheidung eines Agenten nach dem EU-KI-Gesetz oder der DSGVO menschliche Aufsicht erfordert, ist eine rechtliche Bewertung, die in unserem Leitfaden KI-Agenten-Sicherheit und Freigabekontrollen behandelt wird, nicht auf dieser Seite.

Naechster Schritt

Teilen Sie den Agenten, den Sie entwerfen, die von ihm vorgeschlagenen Aktionen und wie lange eine Entscheidung sicher warten kann -- und wir vereinbaren einen Loesungsreview, um seine Checkpoints zu platzieren und den Zustand zu entwerfen, den er zum Fortsetzen benoetigt. Sie koennen auch KI-Automatisierung und Agenten oder weitere Netbase-Insights ansehen.

Verwandte Leistungen und Lösungen