AI Agent 논의는 종종 혼자 일을 끝낼 수 있는가에서 시작된다. 하지만 먼저 물어야 할 것은 누구의 권한으로 행동하는가다. OpenAI, Anthropic, Microsoft, Google Cloud, IBM은 자율성보다 권한 설계가 먼저라고 보여준다.
> ALTOS LAB 판단: 권한 논리가 없는 Agent는 더 똑똑한 동료가 아니라 도구를 가진 불명확한 책임자다.
[IMAGE:opening]
먼저 지켜야 할 세 가지 통제점
- 도구를 주기 전에 Agent가 대표하는 역할을 정한다
- 읽기, 제안, 제출 권한을 나누고 파일럿에 모든 권한을 주지 않는다
- 모든 도구 호출에 요청자, 데이터 출처, 사람 검토 상태를 남긴다
도구를 주기 전에 Agent가 대표하는 역할을 정한다
OpenAI, Anthropic, Microsoft, Google Cloud, IBM가 보여주는 순서는 데이터, 권한, 검토, 복구다. ALTOS LAB은 이 항목을 제품 킥오프 첫 장에 둔다. 첫 주에 책임이 흐리면 몇 달 뒤 고객 문의, 리스크 검토, 운영 보수로 돌아온다.
다음에 볼 신호
처음에는 매주 반복되는 업무 하나를 고른다. 입력이 보이고, 사람이 검토하며, 고객이나 운영에 영향을 주는 과제가 좋다. 입력 출처, 출력 확인자, 사람 검토 지점, 실패 시 돌아갈 버전을 말할 수 있어야 한다.
한 가지 장면으로 먼저 연습하기
첫 리허설은 고객 지원 답변 초안이나 CRM 데이터 정리 흐름으로 충분하다. 제품 책임자는 데이터 출처를 쓰고, 운영 담당자는 사람이 검토할 지점을 표시한다. 엔지니어는 읽기만 하는 단계와 두 번째 확인이 필요한 단계를 나눈다. ALTOS LAB은 이 표를 과제 옆에 두고, 회의가 낙관론이 아니라 같은 근거로 돌아오게 만든다.
ALTOS LAB 현장 메모
이 칼럼의 핵심은 용어가 아니라 운영 순서다. ALTOS LAB은 계획을 네 가지 답으로 나눈다. 누가 데이터를 읽는가, 누가 실행하는가, 누가 거부할 수 있는가, 누가 이전 상태로 되돌리는가. 이 답이 있어야 도구 선택을 논의할 수 있다.
OpenAI, Anthropic, Microsoft, Google Cloud, IBM는 외부 기준점이다. 회사 안에서는 제품 문서, 권한표, 지원 대응 절차에 맞춰 써야 한다. 현장 담당자가 예외를 만났을 때 필요한 것은 추상적인 원칙이 아니라 다음 행동이다.
출처를 결정에 넣는 방법
출처 문서는 구호가 아니라 검토 질문으로 써야 한다. 새로운 기능이 파일럿에 들어가기 전, 하나의 외부 출처와 하나의 내부 규칙에 연결한다. 그러면 관리자는 감이 아니라 근거로 승인하고, 제품 팀은 사고 뒤에 맥락을 다시 만들 필요가 없다.
다음 성숙도 신호는 Agent의 모든 행동을 역할, 권한, 데이터, 검토 기록으로 되돌릴 수 있는가다.
[IMAGE:mechanism]
Decision framework
| 점검점 | 준비 신호 | 경고 신호 |
|---|---|---|
| 데이터 | 출처, 시간, 버전을 추적한다 | 어느 도구 안에 있다고만 말한다 |
| 권한 | 읽기, 제안, 제출 권한을 나눈다 | 파일럿 첫날부터 운영 데이터를 바꾼다 |
| 검토 | 책임자와 대리 책임자가 있다 | 팀 전체 책임이라고만 쓴다 |
| 복구 | 중단 조건과 복구 버전이 있다 | 사람이 손으로 수습한다 |
읽기, 제안, 제출 권한을 나누고 파일럿에 모든 권한을 주지 않는다
다음에 볼 신호
다음 성숙도 신호는 Agent의 모든 행동을 역할, 권한, 데이터, 검토 기록으로 되돌릴 수 있는가다.
이번 주 먼저 할 일
이번 주에는 업무 하나를 네 줄로 쓴다. 데이터 출처, 책임자, 중단 조건, 복구 버전이다. 그다음 도구를 고른다. 시작은 느려도 나중에 회의로 정책을 메우는 비용을 줄인다.
모든 도구 호출에 요청자, 데이터 출처, 사람 검토 상태를 남긴다
