사람을 루프 안에 남기는 일 — 휴먼인더루프 설계의 기준

AI 기능을 붙일 때 가장 먼저 결정해야 하는 건 모델이 아니라 권한이다. 어디까지 AI가 스스로 실행하고, 어디서부터 사람의 확인을 받는가. 이 경계가 흐릿하면 사용자는 도구를 신뢰하지 못한다.

감시가 아니라 설계다

휴먼인더루프를 “AI가 틀릴까 봐 사람이 지켜본다”로 이해하면 설계가 빈약해진다. 더 나은 질문은 이것이다 — 어떤 결정이 되돌리기 어려운가? 되돌리기 쉬운 일은 과감히 위임하고, 되돌리기 어려운 일에만 사람의 승인을 끼워 넣는다.

세 가지 경계

• 자동(auto): 저비용·가역적 작업. 초안 생성, 분류, 정리.
• 확인(confirm): 외부로 나가거나 비용이 드는 작업. 메일 발송, 결제, 게시.
• 공동(co-decide): 가치 판단이 필요한 작업. 채용, 우선순위, 톤.

좋은 인터랙션은 이 세 층을 사용자가 직접 조정할 수 있게 둔다. 신뢰는 통제감에서 나온다.