AI 에이전트의 지능적인 위임

AI 에이전트가 여러 명이면 일을 더 잘할까요? 꼭 그렇지는 않습니다.

지난 8월 21일 Google Cloud와 Google DeepMind는 AI 에이전트가 다른 에이전트에게 일을 맡길 때 필요한 네 가지 원칙을 공개했습니다. 기반이 된 논문의 제목은 ‘Intelligent AI Delegation’, 지능적인 AI 위임입니다.

가장 흥미로운 개념은 ‘계약 우선 분해’입니다. 복잡한 업무를 무조건 작게 쪼개는 것이 아니라, 결과를 확인하고 채점할 수 있는 단위로 나눈 뒤 역할과 범위, 완료 조건을 먼저 정하는 방식입니다.

예를 들어 보고서 업무를 자료 수집, 계산, 원고 작성으로 나누면 속도는 빨라집니다. 하지만 출처 범위, 계산식, 통과 기준이 없다면 앞 단계의 작은 오류가 다음 에이전트로 전달되고, 마지막에는 그럴듯하지만 틀린 보고서가 완성될 수 있습니다.

연구진은 여기에 세 가지 조건을 더 제시합니다. 단순 작업에는 저렴한 모델을 배정하고, 하위 에이전트에는 필요한 데이터와 권한만 제공하며, 요청이 모호하거나 위험할 때는 그대로 수행하지 말고 사람에게 확인해야 한다는 겁니다. 이를 ‘동적인 인지 마찰’이라고 표현합니다.

마찰이 적을수록 좋은 자동화처럼 보이지만, 모든 지시를 질문 없이 통과시키는 에이전트는 오히려 위험할 수 있습니다. 특히 여러 에이전트가 연결되면 처음의 의도와 마지막 행동 사이의 거리가 길어지기 때문입니다.

앞으로 에이전트를 잘 활용하는 능력은 프롬프트를 길게 쓰는 것보다, 업무의 목적·입력·권한·결과물·통과 기준·승인 지점을 명확하게 설계하는 능력에 가까워질 가능성이 큽니다.

참고 출처

• https://cloud.google.com/blog/products/ai-machine-learning/how-agents-can-delegate-better ↗ (새 탭)
• https://arxiv.org/abs/2602.11865 ↗ (새 탭)