“지난달 주민교육 성과를 찾아 다음 회의 안건을 만들고, 참석자들의 가능한 시간을 확인해 줘.” 이 요청을 처리하려면 보고서와 일정이라는 서로 다른 자료를 살펴야 합니다. 한 번의 답변으로 끝낼 수도 있지만, 실제 업무에서는 자료가 없거나 일정이 충돌할 수 있습니다. 이때 AI가 결과를 확인하며 다음 도구 사용을 결정하는 방식이 에이전트의 작업 흐름입니다.
AI 에이전트는 목표를 받으면 도구 사용과 다음 단계를 스스로 선택하고, 실행 결과를 관찰해 계획을 조정할 수 있습니다. 이 글의 예시는 특정 제품의 완성된 기능이 아니라 업무 설계를 설명하는 가상 사례입니다. Anthropic, Trustworthy agents in practice
하나의 요청을 여섯 가지 판단으로 나눕니다
주민교육 회의를 준비한다고 가정해 보겠습니다. 직원의 요청에 ‘지난달’이라는 기간, ‘성과’라는 자료 범위, ‘회의’라는 결과물이 들어 있습니다. 에이전트가 곧장 일정부터 등록하면 보고서의 핵심 쟁점이나 참석 대상을 놓칠 수 있습니다.
기간·교육 사업·필요한 결과물을 확인합니다. 모호하면 직원에게 묻습니다.
접근 가능한 결과보고서와 참석자 명단의 최신본을 찾습니다.
자료의 날짜·출처·누락을 확인합니다. 없거나 충돌하면 범위를 고쳐 다시 찾습니다.
확인된 참석 대상의 가능한 시간을 조회하고 충돌을 비교합니다.
보고서 근거, 안건, 시간 후보, 불확실한 항목을 직원에게 보여줍니다.
직원이 참석자·시간·내용을 확인한 뒤 일정 생성이나 발송을 실행합니다.
2번과 4번은 도구 호출이지만, 3번은 결과를 해석하는 단계입니다. 검색 결과에 최신 보고서가 없으면 “없음”을 알려 주거나 다시 찾는 것이 맞습니다. 잘못된 자료를 근거로 그럴듯한 안건을 완성하는 것은 성공이 아닙니다. 도구를 여러 개 붙이는 것보다 각 도구의 결과를 다음 단계의 조건으로 쓰는 설계가 중요합니다. OpenAI의 도구 문서는 검색, 함수 호출, MCP 서버 등 여러 경로로 기능을 확장할 수 있다고 설명합니다. OpenAI, Using tools
정해진 순서와 에이전트의 반복은 다릅니다
| 상황 | 고정된 자동화 | 에이전트 흐름 |
|---|---|---|
| 보고서가 없음 | 오류 처리 규칙에 따라 중단하거나 다음 단계 진행 | 허용된 범위에서 다른 검색어를 시도하거나 확인 요청 |
| 두 자료의 수치가 다름 | 미리 작성된 조건이 있으면 분기 | 출처·시점을 비교하고 불확실성을 표시 |
| 일정이 충돌함 | 정해진 대안 시간을 제시 | 조건에 맞는 다른 후보를 조회하고 재제안 |
| 외부 발송 | 설정된 승인 절차에 따름 | 발송 권한과 사람의 승인 절차에 따름 |
고정 자동화가 더 적합한 일도 많습니다. 입력과 규칙이 분명하고 예외가 적으면 단순한 순서가 운영하기 쉽습니다. 자료마다 판단이 달라지고 다음 행동을 선택해야 할 때 에이전트가 도움이 될 수 있습니다. 에이전트라고 해서 언제나 전체 과정을 자율적으로 맡겨야 하는 것은 아닙니다. OpenAI, A practical guide to building AI agents
MCP는 연결 규칙, 에이전트는 작업 방식입니다
앞선 MCP 글은 AI 앱이 외부 자료와 도구에 연결하는 규칙을 설명했습니다. 에이전트는 그 도구를 언제, 어떤 순서로, 결과를 보고 어떻게 다시 쓸지 결정하는 작업 방식입니다. 반드시 MCP로만 도구를 연결하는 것은 아닙니다. 서비스 자체 기능이나 API를 통한 함수 호출도 가능합니다. 도구를 불러오는 방법과 업무 결정을 설계하는 방법을 구분해야 합니다.
문서 검색 서버는 자료를 돌려줍니다. 일정 도구는 가능 시간을 조회하거나 등록 요청을 처리합니다. 어떤 보고서가 적절한지, 일정 충돌 뒤 어떤 대안을 제시할지, 등록 전에 누가 승인할지는 업무 흐름에서 정합니다.
멈춰야 하는 지점을 먼저 정합니다
에이전트가 “회의 초안을 보여주기”까지 할 때와 “모든 참석자에게 초대장을 보내기”까지 할 때 책임의 범위는 다릅니다. 일정 등록, 발송, 삭제, 결제처럼 외부 상태를 바꾸는 행동은 대상과 내용을 사람이 확인하도록 설계하는 편이 안전합니다. MCP 도구 명세 역시 사용자가 도구 호출을 알아보고 거부할 수 있는 사람의 개입을 권고합니다. MCP Specification, Tools
- 접근 범위 — 문서와 일정은 요청한 사람의 권한으로만 조회하는가?
- 출처 확인 — 안건마다 근거 보고서와 날짜를 볼 수 있는가?
- 중단 조건 — 자료가 없거나 수치가 충돌하면 추측 대신 멈추는가?
- 실행 승인 — 등록·발송 전에 대상과 내용을 사람이 확인하는가?
- 기록 — 어떤 도구를 언제 사용했고 무엇이 바뀌었는지 남는가?
작은 시범은 한 업무의 끝까지 검증합니다
교육 회의 준비에서 먼저 ‘승인된 보고서 찾기 → 근거 있는 안건 초안’까지만 시험해 보세요. 실제 질문을 모아 최신 문서를 찾는지, 없는 자료를 만들어 내지 않는지, 출처를 제시하는지 확인합니다. 다음에는 일정 조회를 붙이고, 마지막에 승인 후 등록 기능을 검토합니다. 시범의 성과는 도구 호출 횟수보다 직원이 초안을 확인하고 회의를 준비하는 데 드는 노력과 오류가 얼마나 줄었는지로 판단할 수 있습니다.
에이전트가 일한다는 말은 사람이 사라진다는 뜻이 아닙니다. 도구의 결과를 살펴 다음 단계를 선택하되, 조직이 정한 권한과 승인 지점에서 멈추는 업무 구조를 만든다는 뜻입니다.
Anthropic, Trustworthy agents in practice · OpenAI, Using tools · OpenAI, A practical guide to building AI agents · MCP Specification, Tools