액터 (Actor) + HITL — 자동 액터 vs 인간 검토 액터

액터는 외부 상태를 바꾸는 호출입니다 (레슨 1). 되돌릴 수 없는 호출이라, 액터를 언제 누가 발사하는지 의 분업이 에이전트 설계의 핵심 안전 패턴입니다. 본 레슨은 액터를 자동 vs 인간 검토 두 종으로 분리하고, HITL (Human-in-the-Loop) 워크플로를 짭니다.

액터 두 종류

자동 액터

LLM 의 추론 결과를 받아 즉시 외부 호출. 사람이 중간에 끼지 않습니다.

• log_event(...) — 감사 로그 한 줄 기록. 부작용이 조직 내부 로그 에 한정되므로 자동 액터로 안전.
• send_internal_slack(...) — 내부 Slack 알림. 잘못 발사돼도 조직 내부 영향만.
• update_metric(...) — 운영 메트릭 카운터 증가.

자동 액터의 공통점 — 오작동 시 영향이 조직 내부에 한정되고, 회수가 가능 합니다.

인간 검토 액터

LLM 이 권고 를 만들고, 사람이 그 권고를 받거나 덮어쓴 뒤 외부 호출이 발사됩니다. 검토자의 결정 자체가 액터의 입력 입니다.

• capture_review_decision(reviewer_id, decision) — 검토자가 APPROVE / PARTIAL / REJECT 한 가지를 선택. 이 액터의 결과가 다음 단계 액터의 입력.
• 다음 단계 — issue_refund(amount) 또는 send_rejection_email(reason) 같은 돌이킬 수 없는 외부 호출.

인간 검토 액터의 공통점 — 오작동 시 영향이 조직 외부 (고객 · 금융 시스템 · 규제) 로 확장되거나 법적·계약적 책임이 발생합니다.

HITL 워크플로 한 사이클

refund-approval 에이전트 (워크숍 refund_approval 의 §6) 의 흐름:

1. 사용자 입력 — 검토자가 환불 검토할 주문 ID 입력.
2. 도구 호출 2 회 — get_enriched_order(order_id) 로 컨텍스트 fetch, search_refund_policy(reason) 로 관련 정책 단락 RAG 검색 (다음 레슨).
3. LLM 추론 — 두 도구의 출력을 합쳐 권고 (APPROVE / PARTIAL / REJECT) + 근거 3 줄 생성.
4. 인간 검토 액터 — capture_review_decision. UI 의 3 버튼 중 하나를 검토자가 누름.
5. 자동 액터 — 결정이 APPROVE 면 issue_refund, REJECT 면 send_rejection_email 발사. 결정 결과는 모든 경우 log_event 로 감사 로그.

핵심은 4 단계의 인간 검토 액터가 없으면 5 단계의 외부 호출이 발사되지 않는다 는 점입니다. LLM 의 권고 와 외부 발사 사이에 인간 결정 이 끼어 있어, LLM 의 오작동이 조직 외부로 새지 않는 게이트 역할을 합니다.

인간 검토 액터의 UI 패턴

검토자가 한 결정을 내릴 때 화면에 무엇이 함께 보여야 하는지 는 HITL 설계의 핵심입니다.

세 가지를 한 화면에 모읍니다.

1. LLM 의 권고 + 근거 — APPROVE 권고, 근거: (1) tier=platinum, (2) past_approval_rate=0.85, (3) refund 사유가 정책 §3.2 의 'defective' 카테고리에 해당.
2. 원천 데이터 한 묶음 — 검토자가 권고를 신뢰할지 결정 하기 위해 필요한 raw 컨텍스트. 주문 정보, 고객 tier, 과거 환불 이력, 정책 단락.
3. 결정 버튼 3 개 — APPROVE / PARTIAL / REJECT. 권고와 다른 결정 도 한 클릭에 가능해야 합니다.

검토자가 권고를 그대로 받기 만 한다면 HITL 의 의미가 사라집니다. 덮어쓰기 가 일상이 되도록 UI 가 권고를 강조하지 않고 원천 데이터를 동등하게 노출하는 게 안전합니다.

액터 등록 — 에이전트에 연결

도구와 마찬가지로 에이전트 빌더 화면의 액터 영역에 각 액터를 등록합니다. 액터의 발사 순서 가 중요한 흐름이면 액터 간 의존 도 함께 설정합니다 — 예: issue_refund 는 반드시 capture_review_decision 의 출력이 APPROVE 일 때만 발사.

이 레슨에서 익혀야 할 것

• 액터의 자동 vs 인간 검토 두 종 구분
• HITL 워크플로의 5 단계 흐름 — 입력 → 도구 → LLM → 검토 → 외부 발사
• 검토자 UI 의 권고 + 원천 + 결정 버튼 3 영역 배치

다음 레슨

지식 자원을 RAG 로 임베딩 검색하고, 응답에 근거 인용 을 포함시키는 패턴.