← 인사이트

AI Lab · No.57

AI 에이전트 도입, 창업팀이 먼저 정할 권한과 검수

초기 창업팀이 AI 에이전트에 위임할 업무를 선정하고 권한, 승인 지점, 로그와 비용 한도를 정하는 법입니다.

AI 창업 실습스타트업

AI 에이전트 도입은 답을 주는 AI를 넘어, 도구를 쓰며 여러 단계를 스스로 진행하는 AI에게 업무를 위임하는 것입니다. 초기 창업팀은 반복되고 검수하기 쉬운 업무를 선정하고, 읽기와 쓰기 권한을 나누고, 사람이 승인할 지점을 먼저 정해야 합니다.

Key Points · 핵심 요약
  1. 에이전트는 스스로 단계와 도구를 선택하므로 답만 하는 AI보다 권한 설계가 우선입니다.
  2. 첫 업무는 자주 반복되고, 결과를 빨리 확인할 수 있고, 되돌리기 쉬운 업무로 선정합니다.
  3. 발송·결제·삭제는 사람 승인 뒤에만 실행하고, 모든 실행은 로그와 비용 한도로 관리합니다.

AI 에이전트는 답만 하는 AI와 무엇이 다를까요?

가장 큰 차이는 다음 행동을 누가 정하느냐입니다. 대화형 AI는 질문에 답을 제시하고 멈추지만, 에이전트는 목표를 받아 검색, 파일 수정, 메일 작성 같은 도구를 직접 선택해 작업을 이어 갑니다.

앤트로픽은 2024년 12월 글에서 두 구조를 나눴습니다. 정해 둔 코드 경로를 따라 모델과 도구가 움직이면 워크플로, 모델이 과정과 도구 사용을 스스로 이끌면 에이전트라고 정의했습니다.

같은 글은 가능한 가장 단순한 방법을 찾고, 필요할 때만 복잡도를 높이라고 권합니다. 창업팀도 처음부터 자율 에이전트를 목표로 하기보다 단계가 정해진 워크플로에서 출발하는 편이 안전합니다.

대화형 AI, 워크플로, 에이전트 비교
구분단계 결정 주체적합한 업무주의할 점
대화형 AI사람이 매번 질문초안, 요약, 아이디어 정리결과를 사람이 직접 옮겨 적용해야 함
워크플로사람이 미리 순서를 설계문의 분류, 주간 보고 취합예외 상황에서 멈추도록 설계
에이전트AI가 실행 중에 판단단계 수를 예측하기 어려운 조사, 정리권한, 승인, 중단 조건이 필수

연구와 전망은 에이전트 도입을 어떻게 보고 있을까요?

능력은 빠르게 늘고 있지만, 긴 작업일수록 아직 실패가 잦다는 것이 공통된 진단입니다.

METR(2025)은 AI가 50% 확률로 끝낼 수 있는 과제 길이가 지난 6년간 약 7개월마다 두 배로 늘었다고 분석했습니다. 사람이 4분 안에 하는 과제는 거의 다 성공했지만, 4시간이 넘는 과제의 성공률은 10% 미만이었습니다.

가트너(2025)는 에이전틱 AI 프로젝트의 40% 이상이 2027년 말까지 취소될 것으로 내다봤습니다. 이유로는 늘어나는 비용, 불분명한 사업 가치, 부족한 위험 통제를 들었습니다.

같은 발표는 2028년까지 일상 업무 결정의 15% 이상을 에이전틱 AI가 스스로 내릴 것으로 전망했습니다. 방향성이 분명한 만큼, 작은 업무에서 통제 방법을 먼저 익혀 두는 팀이 유리합니다.

어떤 업무부터 에이전트에게 위임할까요?

자주 반복되고, 결과를 빨리 확인할 수 있고, 틀려도 되돌리기 쉬운 업무가 첫 후보입니다. 세 조건 가운데 하나라도 빠지면 아직 사람이 직접 처리합니다.

METR의 결과처럼 짧고 경계가 분명한 과제일수록 성공률이 높습니다. 그래서 한 번에 끝나는 30분 단위 업무를 여러 개 위임하는 편이 반나절 분량의 업무 하나보다 효과적입니다.

초기 창업팀의 에이전트 업무 후보
업무에이전트가 할 일검수 방법판단
경쟁사 동향 정리공개 자료 검색, 표로 요약, 출처 첨부출처 링크를 열어 수치 대조먼저 시작
문의 메일 분류유형별 분류, 답변 초안 작성보내기 전 초안 확인초안까지만
회의 후속 정리할 일 목록 작성, 일정표 초안 생성담당자와 마감일 확인먼저 시작
지원사업 공고 탐색조건에 맞는 공고 수집, 마감일 정리원문 공고에서 자격 재확인초안까지만
결제, 계약, 고객 데이터 삭제위임하지 않음사람이 직접 처리제외

권한과 사람 승인 지점은 어떻게 나눌까요?

권한은 필요한 최소만 주고, 영향이 큰 행동 앞에는 사람 승인을 둡니다. OWASP(2025)는 에이전트 피해의 근본 원인으로 지나친 기능, 지나친 권한, 지나친 자율을 꼽았습니다.

같은 문서는 영향이 큰 행동을 실행하기 전에 사람이 승인하도록 하라고 권합니다. 앤트로픽도 에이전트가 정해 둔 확인 지점이나 막힌 순간에 멈추고 사람의 의견을 받는 구조를 소개했습니다.

실무에서는 권한을 네 단계로 나누면 정리가 쉽습니다. 첫 달에는 1~2단계만 열고, 검수 기록이 충분히 확보된 업무부터 3단계로 올립니다.

에이전트 권한 4단계와 승인 기준
단계허용 범위예시승인
1. 읽기자료 조회, 검색, 요약공개 웹, 공유 폴더 열람불필요
2. 초안 작성별도 폴더에 새 문서 생성메일 초안, 보고서 초안사용 전 확인
3. 내부 수정팀 문서와 일정 변경업무 표 갱신, 일정 등록건별 또는 일괄 승인
4. 외부 실행발송, 결제, 삭제, 계약고객 메일 발송, 카드 결제건마다 사람이 직접 실행

검수, 로그, 비용은 어떻게 관리할까요?

에이전트는 단계가 길어질수록 작은 오류가 누적됩니다. 앤트로픽은 자율성이 높을수록 비용이 늘고 오류가 누적될 수 있다며, 격리된 환경에서 충분히 테스트하라고 권했습니다.

그래서 실행 기록과 멈출 조건을 처음부터 정해 둡니다. 기록이 있어야 무엇이 틀렸는지 찾고, 같은 실수를 지시문에 반영할 수 있습니다.

  • 모든 실행에 입력, 사용한 도구, 결과, 걸린 시간을 남깁니다.
  • 최대 반복 횟수와 1회 비용 한도를 정해 넘으면 멈추게 합니다.
  • 처음 2주는 결과를 전부 검수하고, 수정 내용을 유형별로 기록합니다.
  • 실패한 작업은 사람에게 넘기고, 같은 실패가 세 번이면 위임 범위를 줄입니다.
  • 월말에 절감한 시간과 투입 비용을 비교해 지속할 업무만 남깁니다.
읽기는 넓게, 실행은 승인 뒤에

에이전트에게 조회 권한은 충분히 부여하되, 외부로 나가거나 비용이 발생하는 행동은 사람이 확인한 뒤에만 실행되게 합니다.

자주 묻는 질문

Q.AI 에이전트와 업무 자동화 도구는 어떻게 다른가요?

자동화 도구는 사람이 정해 둔 순서를 그대로 반복합니다. 에이전트는 목표를 받아 실행 중에 다음 단계와 도구를 스스로 선택합니다. 유연한 대신 예측이 어려워 권한과 승인 설계가 더 중요합니다.

Q.초기 창업팀이 AI 에이전트를 도입하기에 아직 이르지 않나요?

작은 업무부터라면 이르지 않습니다. 읽기와 초안 작성처럼 위험이 낮은 일에서 시작하면 비용과 오류 모두 감당할 수 있는 수준입니다. 오히려 팀이 작을 때 권한 규칙을 정해 두기가 쉽습니다.

Q.에이전트에게 회사 메일이나 결제 권한을 줘도 되나요?

초기에는 권하지 않습니다. 메일은 초안까지만 작성하게 하고 발송은 사람이 합니다. 결제와 계약, 데이터 삭제는 검수 기록이 확보된 뒤에도 사람이 직접 실행하는 편이 안전합니다.

Q.에이전트가 일을 잘했는지는 무엇으로 판단하나요?

업무별로 수정 횟수, 실패 건수, 절감한 시간, 투입 비용을 함께 확인합니다. 시간이 줄어도 수정이 늘면 범위를 좁힙니다. 2주 단위로 기록을 비교하면 지속할 업무가 분명해집니다.

Q.에이전트 도입 비용은 어떻게 통제하나요?

1회 실행 비용과 최대 반복 횟수에 한도를 설정합니다. 한도를 넘으면 멈추고 사람에게 알리게 설정합니다. 월 예산을 정해 두고 업무별 사용량을 나눠 확인하면 낭비가 큰 영역을 파악할 수 있습니다.

참고 자료

큐케이파트너스창업교육, AI 교육, BM 고도화, IR 덱 제작, 데모데이 운영을 하는 스타트업 그로스 파트너입니다. 창업 현장에서 반복되는 질문을 연구와 심사·교육 경험으로 정리합니다.

프로그램 설계가 필요하신가요?

창업 기초·실무교육, AI 활용 창업교육, 창업부트캠프를 기관 일정에 맞춰 운영합니다.