에이전틱 AI 아키텍처와 휴먼인더루프 제어: 체크포인트를 어디에 배치할 것인가

이 가이드는 에이전트 아키텍처를 설계하거나 검토하는 CTO 및 엔지니어링 리더, 그리고 워크플로우에서 에이전트가 얼마나 독립적으로 실행될지를 결정하는 기술 제품 오너를 위한 것입니다. AI 에이전트 대 워크플로우 자동화 가이드는 특정 작업에 에이전트가 필요한지 여부를 판단하며, AI 에이전트 보안 및 인간 승인 제어 가이드는 인젝션 및 비준수 자동 결정으로부터 단일 승인 게이트를 보호합니다. 이 페이지는 그 사이에 위치합니다. 에이전트가 있고 게이트가 필요하다는 것을 알고 있다면, 이 가이드는 게이트가 제어 루프의 어디에 위치해야 하는지와 시스템이 대기 중에 어떻게 살아남는지를 설계합니다. 제안된 툴 호출이 ERP, CRM 또는 금융 시스템에 도달하는 경우, MCP 서버 가이드가 서버와 그 앞의 승인 경계를 설계합니다.

이 가이드에서 다루는 내용

• 제어 루프에는 한 곳이 아닌 세 곳에 사람이 위치할 수 있습니다
• 패턴 선택
• 체크포인트 배치 매트릭스 구축
• 상태 및 체크포인트 설계: 일시 중지 시 무엇이 살아남아야 하는가
• AI와 체크포인트 설계의 만남
• 존재하는 납품 기록과 존재하지 않는 것
• 대안과 선택 기준
• 이 가이드의 한계
• 자주 묻는 질문
• 다음 단계

제어 루프에는 한 곳이 아닌 세 곳에 사람이 위치할 수 있습니다

에이전트는 인식-결정-행동 루프를 실행합니다. 컨텍스트를 읽고, 툴 호출을 제안하며, 게이트가 적용되는 경우 행동하기 전에 결정을 기다립니다. 대부분의 팀은 처음 구축하기 가장 쉬운 단일 체크포인트 형태—답변이 올 때까지 차단하는 채팅 메시지—를 기본으로 선택합니다. 하지만 이 방식은 규모에서 가장 느리며, 보안 및 승인 가이드에서 지적하듯, 승인자가 읽기를 멈추도록 훈련시키는 형태이기도 합니다. 세 가지 형태가 존재하며, 아키텍처는 기본값이 아닌 의도적인 선택으로 이 중 하나를 골라야 합니다.

• 동기 차단. 게이트가 적용된 단계에서 실행이 중단되며, 해당 실행의 다운스트림은 사람이 답할 때까지 진행되지 않습니다.
• 비동기 큐. 게이트가 적용된 액션은 큐 또는 내구성 있는 프로미스에 기록되고, 실행은 다른 독립적인 작업을 계속합니다. 에이전트(또는 다음 실행)는 답변이 도착하면 이를 가져옵니다.
• 낙관적 실행과 보상 액션. 단계가 즉시 실행되고 미리 구축된 되돌리기 액션(환불, 전송 취소, 되돌리기)이 큐에 추가됩니다. 사람이 사후에 검토하고 필요하면 되돌리기를 실행합니다.

패턴 선택

상태 및 체크포인트 설계: 일시 중지 시 무엇이 살아남아야 하는가

동기 게이트는 대기 중에 다른 일이 발생하지 않기 때문에 실행 중인 프로세스에 상태를 보관할 수 있습니다. 비동기 및 낙관적 패턴은 그렇지 않습니다. 프로세스가 재시작될 수 있고, 워커가 죽을 수 있으며, 대기가 수 시간 지속될 수 있습니다. 내구성 있는 실행 플랫폼과 에이전트 프레임워크는 동일한 답으로 수렴합니다. 상태를 프로세스 메모리 외부에 실행 또는 스레드 ID로 키잉하여 유지하고, 처음부터 재생하는 대신 실행이 일시 중지된 정확한 지점에서 재개합니다. 에이전트 체크포인트에서 가장 중요한 네 가지 필드는 다음과 같습니다. 에이전트가 지금까지 읽은 입력(검색된 컨텍스트 포함, 실행이 RAG 아키텍처 가이드에서처럼 지식 베이스에 접근하는 경우), 정확한 제안 툴 호출과 그 파라미터, 승인 응답이 바인딩된 안정적인 실행 또는 스레드 식별자, 그리고 멱등성 키—재개된 실행이 일시 중지된 단계의 맨 처음으로 다시 진입하는 경우가 많아 청구나 중복 메시지 같은 사이드 이펙트를 반복하지 않아야 하기 때문입니다. LangChain의 interrupt-and-resume 모델은 일시 중지 시 전체 상태 스냅샷을 유지하고 재개 시 복원합니다. 클라우드 워크플로우 콜백 패턴(예: AWS Step Functions 방식의 태스크 토큰)은 라이브 스레드를 보유하지 않고 일시 중지된 단계를 표시하고 유휴 과금 상태로 유지합니다. Restate의 awakeable 같은 내구성 있는 프로미스 패턴은 승인을 프로세스 재시작을 견뎌내는 콜백 ID에 바인딩합니다. 이것은 제품 추천이 아닙니다. Netbase JSC는 프로젝트별로 선택된 주요 상용 및 오픈소스 AI 툴과 모델로 작업하며, 프로젝트가 이미 사용하는 오케스트레이션 레이어에 맞게 체크포인트를 설계합니다.

존재하는 납품 기록과 존재하지 않는 것

• 존재하는 것. Netbase JSC는 이름을 밝히지 않은 클라이언트를 위해 AI를 납품했으며, 위의 모더레이션 및 챗봇 기록이 포함됩니다. 이 경우 에이전트의 출력 또는 액션이 사람 대면 큐 또는 CRM 워크플로우에서 대기하거나 동기화됩니다. Netbase JSC는 자체 보안 관행(보안 코드 리뷰, 전송 중 TLS 및 저장 중 AES, 역할 기반 접근 제어, 관리자 대시보드용 MFA, 취약점 스캐닝 및 침투 테스트)을 따르며 자체 운영에 대해 ISO 27001 인증 및 SOC 2 Type II 증명을 보유합니다. 보안 및 컴플라이언스를 참조하십시오.
• 존재하지 않는 것. 공개된 Netbase JSC 기록 중에서 일시 중지된 에이전트 실행의 재개 시간, 큐 깊이, 승인율 또는 인시던트 수를 명시한 것은 없으며, 특정 납품에 사용된 오케스트레이션 프레임워크나 워크플로우 엔진을 명시한 것도 없습니다. Netbase JSC의 인증은 Netbase JSC 자체 운영에만 적용되며 클라이언트 시스템으로 확장되지 않습니다.

대안과 선택 기준

위 매트릭스의 동일한 네 가지 기준—최악의 경우의 가역성, 비즈니스가 허용하는 지연 시간, 실제 사례에서 측정된 신뢰도, 테스트된 보상 액션의 존재 여부—이 이 행들 사이에서 선택을 결정합니다.

이 가이드의 한계

• 특정 프레임워크의 보장이 아닌 아키텍처 패턴을 설명합니다. 모든 오케스트레이션 레이어와 워크플로우 엔진은 interrupt, callback, 내구성 있는 프로미스 패턴을 약간씩 다르게 구현하며, 인용된 소스는 범용 표준이 아닌 자체 제품의 동작을 문서화합니다.
• 이것은 일반적인 엔지니어링 지침이며 법적 조언이 아닙니다. EU AI Act 또는 GDPR에 따라 에이전트의 결정에 인간 감독이 필요한지 여부는 이 가이드가 아닌 AI 에이전트 보안 및 인간 승인 제어 가이드에서 다루는 법적 평가입니다.

다음 단계

설계 중인 에이전트, 에이전트가 제안하는 액션, 결정이 안전하게 대기할 수 있는 시간을 공유해 주시면 솔루션 리뷰를 예약하여 체크포인트를 배치하고 재개에 필요한 상태를 설계하겠습니다. AI 자동화 및 에이전트 또는 Netbase JSC 인사이트를 더 보실 수도 있습니다.

관련 서비스 및 솔루션