エージェント型AIアーキテクチャとヒューマン・イン・ザ・ループ制御：チェックポイントの配置設計

このガイドは、エージェントアーキテクチャを設計またはレビューしているCTOやエンジニアリングリード、およびエージェントがワークフローをどの程度単独で実行すべきかを判断しているテクニカルプロダクトオーナーを対象としています。AIエージェントとワークフロー自動化の比較ガイドでは、タスクにエージェントが必要かどうかを判断します。AIエージェントのセキュリティと人間承認制御ガイドでは、インジェクションおよびノンコンプライアントな自動決定に対する単一承認ゲートのセキュリティ保護を扱っています。本ページはその中間に位置します：エージェントを持ち、ゲートが必要であることが分かった後、制御ループ内でゲートをどこに配置するか、そしてシステムが待機中にどのように動作し続けるかを設計します。提案されたツール呼び出しがERP、CRM、または財務システムに達する場合、MCPサーバーガイドがサーバーとその前面の承認境界を設計します。

このガイドの内容

• 制御ループには、1か所ではなく3か所の人間介入ポイントがある
• パターンの選択
• チェックポイント配置マトリクスの構築
• 状態とチェックポイント設計：一時停止中に保存すべきもの
• AIとチェックポイント設計の交点
• 存在する納品実績と存在しないもの
• 代替案と選択基準
• このガイドの限界
• よくある質問
• 次のステップ

制御ループには、1か所ではなく3か所の人間介入ポイントがある

エージェントは認識・決定・行動ループを実行します：コンテキストを読み取り、ツール呼び出しを提案し、（ゲートが適用される場合は）行動する前に決定を待ちます。ほとんどのチームはデフォルトで1つのチェックポイント形状、つまり誰かが回答するまでブロックするチャットメッセージを選びます。これは最初に構築するのが最も簡単だからです。しかし、スケール時には最も遅く、セキュリティと承認ガイドが指摘するように、承認者が読むことをやめるよう訓練してしまう形状でもあります。3つの形状が存在し、アーキテクチャはデフォルトではなく意図的にそれらの中から選択する必要があります：

• 同期ブロッキング。ゲートが設定されたステップで実行が停止し、人間が回答するまでその実行の下流では何も進みません。
• 非同期キュー。ゲートが設定されたアクションがキューまたは耐久性のあるプロミスに書き込まれ、実行は他の独立した作業を継続します。エージェント（または次の実行）は回答が届いたときに処理を再開します。
• 補償アクションを伴う楽観的実行。ステップが即座に実行され、事前に構築された取り消し処理（返金、送信取り消し、リバート）がキューに追加されます。人間は事後にレビューし、必要に応じて取り消しをトリガーします。

パターンの選択

状態とチェックポイント設計：一時停止中に保存すべきもの

同期ゲートは実行中のプロセスに状態を保持することができます。待機中は他に何も起こらないからです。非同期パターンと楽観的パターンはそれができません：プロセスが再起動する場合があり、ワーカーが停止する場合があり、待機が数時間に及ぶ場合があります。耐久性実行プラットフォームとエージェントフレームワークは同じ答えに収束します — プロセスメモリ外に状態を永続化し、実行IDまたはスレッドIDをキーとして、再実行せずに一時停止した場所から正確に再開します。エージェントチェックポイントにとって最も重要な4つのフィールドがあります：エージェントがこれまでに読み取った入力（RAGアーキテクチャガイドのように実行がナレッジベースに触れる場合の取得済みコンテキストを含む）、正確に提案されたツール呼び出しとそのパラメータ、承認レスポンスが紐付けられた安定した実行IDまたはスレッド識別子、そして冪等性キー（再開した実行は一時停止したステップの先頭から再入力することが多く、課金や重複メッセージなどの副作用を繰り返してはならないため）です。LangChainのinterrupt-and-resumeモデルは一時停止時に完全な状態スナップショットを永続化し、再開時にそれを復元します。クラウドワークフローコールバックパターン（例：AWS Step Functions方式のタスクトークン）は、ライブスレッドを保持するのではなく、一時停止したステップを可視状態で課金アイドルに保ちます。RestateのawakeablesのようなDurable Promiseパターンは、プロセス再起動後も有効なコールバックIDに承認を紐付けます。これは製品の推奨ではありません：Netbase JSCはプロジェクトごとに選択された主要な商用およびオープンソースのAIツールとモデルを使用し、プロジェクトがすでに使用しているオーケストレーションレイヤーに合わせてチェックポイントを設計します。

存在する納品実績と存在しないもの

• 存在するもの。Netbase JSCは名前を公開していないクライアント向けにAIを納品しており、上記のモデレーションおよびチャットボットの実績を含め、エージェントの出力またはアクションが人間向けキューまたはCRMワークフローと連携または同期しています。Netbase JSCは独自のセキュリティプラクティス（セキュアコードレビュー、転送中のTLSおよび保管中のAES、ロールベースのアクセス制御、管理者ダッシュボードのMFA、脆弱性スキャンおよびペネトレーションテスト）に従い、自社運用においてISO 27001認証とSOC 2 Type II認証を保有しています。詳細はセキュリティとコンプライアンスを参照してください。
• 存在しないもの。一時停止中のエージェント実行に関する再開時間、キュー深度、承認率、またはインシデント数を記載したNetbase JSCの公開実績はありません。また、特定の納品でどのオーケストレーションフレームワークまたはワークフローエンジンを使用したかを記載した実績もありません。Netbase JSCの認証はNetbase JSC自身の運用をカバーするものであり、クライアントのシステムには拡張されません。

代替案と選択基準

上記マトリクスと同じ4つの基準がこれらの選択を決定します：最悪ケースの可逆性、ビジネスが許容するレイテンシ、実際のケースでの実測信頼度、およびテスト済みの補償アクションが存在するかどうかです。

このガイドの限界

• このガイドはアーキテクチャパターンを説明するものであり、特定のフレームワークの保証を説明するものではありません。すべてのオーケストレーションレイヤーとワークフローエンジンは、interrupt、callback、Durable Promiseパターンをそれぞれ少し異なる形で実装しており、引用したソースは汎用標準ではなく各製品の動作を文書化しています。
• このガイドは一般的なエンジニアリングガイダンスであり、法的アドバイスではありません。EUのAI法またはGDPRの下でエージェントの決定に人間の監視が必要かどうかは、このガイドではなくAIエージェントのセキュリティと人間承認制御ガイドで扱う法的評価です。

次のステップ

設計中のエージェント、提案するアクション、および決定が安全に待機できる時間をお知らせください。チェックポイントの配置と再開に必要な状態設計についてソリューションレビューをご予約します。AI自動化とエージェントやNetbase JSCのインサイトもご覧いただけます。

関連サービスとソリューション