에이전틱 AI 아키텍처와 휴먼인더루프 제어: 체크포인트 위치 선정

이 가이드는 에이전트 아키텍처를 설계하거나 검토하는 CTO 및 엔지니어링 리드, 그리고 에이전트가 워크플로의 얼마나 많은 부분을 단독으로 실행해야 하는지 결정하는 기술 제품 오너를 위한 것입니다. AI 에이전트 vs 워크플로 자동화 가이드는 태스크에 에이전트가 필요한지 판단하고, AI 에이전트 보안 및 휴먼 승인 제어 가이드는 인젝션 및 비준수 자동 결정에 대해 하나의 승인 게이트를 보호합니다. 이 페이지는 그 사이에 위치합니다. 에이전트를 보유하고 게이트가 필요하다는 것을 알게 된 시점부터, 제어 루프 내에서 게이트의 위치와 대기 중 시스템이 어떻게 생존하는지를 설계합니다.

이 가이드의 내용

• 제어 루프에는 하나가 아닌 세 가지 사람 개입 지점이 있습니다
• 패턴 선택
• 체크포인트 배치 매트릭스 구축
• 상태 및 체크포인트 설계: 일시 정지 중에 생존해야 하는 것
• AI와 체크포인트 설계가 만나는 곳
• 존재하는 납품 실적과 존재하지 않는 것
• 대안 및 선택 기준
• 이 가이드의 한계
• 자주 묻는 질문
• 다음 단계

제어 루프에는 하나가 아닌 세 가지 사람 개입 지점이 있습니다

에이전트는 인식-결정-행동 루프를 실행합니다. 컨텍스트를 읽고, 툴 호출을 제안하며, (게이트가 적용되는 경우) 행동하기 전에 결정을 기다립니다. 대부분의 팀은 하나의 체크포인트 형태—누군가 응답할 때까지 차단하는 채팅 메시지—를 기본값으로 사용합니다. 처음 구축하기에 가장 쉽기 때문입니다. 그러나 규모가 커지면 가장 느리고, 보안 및 승인 가이드에서 언급했듯이, 승인자가 읽지 않고 승인하도록 훈련시키는 형태이기도 합니다. 세 가지 형태가 존재하며, 아키텍처는 기본값이 아닌 의도적으로 그 중 하나를 선택해야 합니다.

• 동기 차단(Synchronous blocking). 게이트 단계에서 실행이 중단되며, 해당 실행에서 하위 작업은 사람이 응답할 때까지 진행되지 않습니다.
• 비동기 큐(Asynchronous queued). 게이트된 액션이 큐 또는 영속적 프로미스에 기록되며, 실행은 다른 독립적인 작업을 계속하고 에이전트(또는 다음 실행)는 응답이 도착하면 답변을 수신합니다.
• 낙관적 실행과 보상 액션(Optimistic execution with a compensating action). 단계가 즉시 실행되고 미리 구축된 되돌리기(환불, 전송 취소, 되돌리기)가 큐에 추가됩니다. 사람이 사후에 검토하고 필요하면 되돌리기를 트리거합니다.

패턴 선택

상태 및 체크포인트 설계: 일시 정지 중에 생존해야 하는 것

동기 게이트는 실행 중인 프로세스에 상태를 유지할 수 있습니다. 대기하는 동안 다른 일이 발생하지 않기 때문입니다. 비동기 및 낙관적 패턴은 그렇지 않습니다. 프로세스가 재시작될 수 있고, 워커가 중단될 수 있으며, 대기가 수 시간 지속될 수 있습니다. 영속적 실행 플랫폼과 에이전트 프레임워크는 동일한 답으로 수렴합니다—프로세스 메모리 외부에 상태를 유지하고, 실행 또는 스레드 ID로 키를 지정하며, 재실행이 아닌 실행이 일시 정지된 정확한 위치에서 재개합니다. 에이전트 체크포인트에서 가장 중요한 네 가지 필드가 있습니다. 에이전트가 지금까지 읽은 입력(검색된 컨텍스트 포함—RAG 아키텍처 가이드처럼 실행이 지식 베이스에 접근하는 경우), 정확한 제안 툴 호출과 그 매개변수, 승인 응답이 바인딩된 안정적인 실행 또는 스레드 식별자, 그리고 멱등성 키—재개된 실행이 일시 정지된 단계의 맨 위에서 다시 진입하는 경우가 많기 때문에 충전이나 중복 메시지 같은 사이드 이펙트를 반복해서는 안 됩니다. LangChain의 인터럽트-재개 모델은 일시 정지 시 전체 상태 스냅샷을 유지하고 재개 시 복원합니다. 클라우드 워크플로 콜백 패턴(예: AWS Step Functions 방식의 태스크 토큰)은 일시 정지된 단계를 라이브 스레드가 아닌 가시적이고 유휴 청구 상태로 유지합니다. Restate의 awakeable과 같은 영속적 프로미스 패턴은 프로세스 재시작 후에도 생존하는 콜백 ID에 승인을 바인딩합니다. 이는 제품 추천이 아닙니다. Netbase JSC는 주요 상용 및 오픈소스 AI 툴과 모델로 작업하며, 프로젝트별로 선택하고 프로젝트가 이미 사용하는 오케스트레이션 레이어를 중심으로 체크포인트를 설계합니다.

존재하는 납품 실적과 존재하지 않는 것

• 존재하는 것. Netbase JSC는 이름이 공개되지 않은 클라이언트를 위해 AI를 납품했습니다. 여기에는 에이전트의 출력 또는 액션이 사람 대면 큐 또는 CRM 워크플로와 대기하거나 동기화되는 위의 모더레이션 및 챗봇 실적이 포함됩니다. Netbase JSC는 자체 보안 관행(보안 코드 리뷰, 전송 중 TLS 및 저장 중 AES, 역할 기반 접근 제어, 관리자 대시보드용 MFA, 취약점 스캐닝 및 침투 테스트)을 준수하며, 자체 운영에 대해 ISO 27001 인증과 SOC 2 Type II 증명을 보유합니다. 보안 및 규정 준수를 참조하십시오.
• 존재하지 않는 것. 일시 정지된 에이전트 실행에 대한 재개 시간, 큐 깊이, 승인율 또는 인시던트 수를 기술한 공개된 Netbase JSC 실적은 없으며, 특정 납품에서 사용된 오케스트레이션 프레임워크 또는 워크플로 엔진을 명시한 실적도 없습니다. Netbase JSC의 인증은 Netbase JSC의 자체 운영을 적용 대상으로 하며, 클라이언트의 시스템으로 확장되지 않습니다.

대안 및 선택 기준

위 매트릭스의 동일한 네 가지 기준—최악의 경우 되돌림 가능성, 비즈니스가 허용하는 지연 시간, 실제 케이스에서 측정된 신뢰도, 테스트된 보상 액션의 존재 여부—이 이 행들 사이의 선택을 결정합니다.

이 가이드의 한계

• 특정 프레임워크의 보증이 아닌 아키텍처 패턴을 설명합니다. 모든 오케스트레이션 레이어와 워크플로 엔진은 인터럽트, 콜백 및 영속적 프로미스 패턴을 약간씩 다르게 구현하며, 인용된 출처는 범용 표준이 아닌 자체 제품의 동작을 문서화합니다.
• 법적 조언이 아닌 일반 엔지니어링 지침입니다. EU AI 법 또는 GDPR에 따라 에이전트의 결정에 인간 감독이 필요한지 여부는 이 가이드가 아닌 AI 에이전트 보안 및 휴먼 승인 제어 가이드에서 다루는 법적 평가입니다.

다음 단계

설계 중인 에이전트, 에이전트가 제안하는 액션, 결정이 안전하게 대기할 수 있는 시간을 공유해 주시면, 체크포인트를 배치하고 재개에 필요한 상태를 설계하기 위한 솔루션 검토를 예약해 드리겠습니다. AI 자동화 및 에이전트 또는 더 많은 Netbase JSC 인사이트도 확인하실 수 있습니다.

관련 서비스 및 솔루션