월요일 오전 9시, 구매 담당자가 ERP에서 지난주 출고 내역을 엑셀로 내려받습니다. 품목별 안전재고와 비교해 모자란 것을 추리고, 거래처별로 발주서를 나눠 만들고, 단톡방에 팀장 확인을 올리면 두 시간이 지나 있습니다. 챗봇에게 물으면 발주서 양식은 알려 주지만 재고를 대신 확인해 주지는 않습니다. AI 에이전트는 “이번 주 발주 준비해 줘”라는 한 줄을 받아 재고를 조회하고, 발주서 초안을 만들고, 승인 버튼만 누르면 되는 상태까지 가져오는 것을 목표로 합니다. 2026년 현재 그 목표가 어디까지 현실이 됐는지 정리했습니다.

챗봇은 답을 주고, 에이전트는 일을 진행한다

Anthropic은 에이전트를 “언어 모델이 작업 순서와 도구 사용을 스스로 정하는 시스템”으로 설명합니다. 여기서 도구는 ERP 조회, 메일 발송, 파일 읽기, 웹 검색처럼 AI가 직접 손을 대는 기능을 말합니다. 같은 회사는 순서를 사람이 미리 코드로 정해 둔 방식을 ’워크플로’라고 따로 부릅니다. 둘을 가르는 기준은 다음 단계를 누가 정하느냐입니다.

구분 챗봇 정해진 자동화 (워크플로·RPA) AI 에이전트
다음 단계를 정하는 주체 사람이 매번 질문 사람이 미리 정한 순서 AI가 결과를 보며 판단
하는 일 답변, 초안 작성 정해진 입력을 정해진 곳에 처리 조회, 작성, 발송까지 여러 단계
잘 맞는 일 문서 요약, 문구 다듬기 매일 같은 형식의 주문 입력 매번 조금씩 다른 조사·정리 업무
주의할 점 틀린 답을 그럴듯하게 말함 형식이 바뀌면 멈춤 틀린 행동을 실제로 실행할 수 있음

마지막 줄이 가장 중요합니다. 챗봇이 틀리면 틀린 문장이 화면에 남지만, 에이전트가 틀리면 잘못된 발주 메일이 거래처로 나갈 수 있습니다. 할 수 있는 일이 늘어난 만큼 틀렸을 때의 비용도 커집니다.

한편 제품 화면에서는 이 구분이 점점 흐려지고 있습니다. Anthropic은 2026년 9월 별도 작업 공간이던 코워크(Cowork)를 일반 대화창으로 합치기 시작했습니다. 대화가 여러 단계짜리 작업이 되어야 하는지를 이제 Claude가 알아서 판단합니다. 마이크로소프트도 같은 달 코파일럿이 요청에 맞춰 대화, 작업 위임, 코드 작성 가운데 하나로 일을 보내도록 하겠다고 밝혔습니다. 결국 차이는 제품 이름이 아니라 “답을 받느냐, 일을 맡기느냐”에 있습니다.

챗봇은 답을 주고, 에이전트는 일을 진행한다 관련 장면
AI 생성 이미지

2026년 제품과 도입 현황

올해 나온 제품들은 공통으로 오래 걸리는 일을 맡기는 쪽으로 움직였습니다.

  • 오픈AI 챗GPT 워크(ChatGPT Work, 2026년 7월): 여러 앱과 파일을 오가며 시트·슬라이드·문서 같은 결과물을 만들고, 필요하면 몇 시간 동안 한 프로젝트를 이어 갑니다. 사용자는 진행 상황을 보며 방향을 바꾸거나 중요한 행동을 승인합니다. 예약 작업 기능으로 팀즈·슬랙에 들어온 새 메시지를 문서에 반영하는 일도 맡길 수 있습니다.
  • 마이크로소프트 새 코파일럿(2026년 9월 25일 발표): 코파일럿 코워크는 RFP 답변서나 결산 자료처럼 맡긴 일을 끝까지 처리해 결과를 돌려주는 기능입니다. 오토파일럿은 이름, 역할, 목표를 정해 주면 채널을 지켜보고 후속 연락과 반복 업무를 이어 가는 상시 에이전트로, 이달 말 비공개 미리보기로 범위를 넓힙니다. 마이크로소프트는 공급업체 평가를 예로 들었습니다. 일정과 준비 계획을 세우고 사전 준비, 회의, 후속 연락까지 스스로 이어 가는 식입니다.
  • Anthropic 코워크(2026년 1월 출시): 컴퓨터의 특정 폴더 접근을 허락하면 파일을 읽고 고치고 만듭니다. 영수증 캡처를 경비 정리표로 바꾸는 식입니다. 앞서 말한 대로 9월부터 일반 대화창으로 합쳐지고 있습니다.

도입도 빨라졌습니다. KPMG가 2026년 7~8월 연 매출 10억 달러 이상 미국 기업 경영진 314명에게 물었더니 62%가 AI 에이전트를 만들거나 배치하고 있다고 답했습니다. 한국 기업을 따로 본 조사에서는 도입의 깊이가 드러납니다. 서비스나우와 쏘트랩이 2026년 발표한 AI 성숙도 조사에서 국내 조직의 52%가 에이전트형 AI를 도입하고 있었지만, 도입한 곳 대부분이 직원 개인을 돕는 용도였고(전체의 42%) 여러 단계 업무를 자율로 돌리는 곳은 9%였습니다. 아직은 개인 비서에 가깝다는 뜻입니다.

실제 업무에 넣으면: 발주, 리서치, 보고서

에이전트를 업무에 넣을 때는 “무엇을 맡기느냐”만큼 “어디서 멈추고 사람에게 넘기느냐”를 먼저 정해야 합니다. 세 가지 흔한 업무로 예를 들어 보겠습니다.

발주: 재고 확인부터 발주서 초안까지

직원 25명인 공구 유통 회사라면 에이전트에게 이런 순서를 맡길 수 있습니다. ERP에서 품목별 재고와 최근 4주 출고량을 조회하고, 안전재고 아래로 내려간 품목을 추립니다. 거래처별 단가표를 참고해 발주서 초안을 만들고, 평소보다 세 배 넘게 많은 수량처럼 이상한 값에는 표시를 붙입니다. 마지막 발송은 담당자가 승인한 뒤에만 나갑니다. 신규 거래처나 일정 금액을 넘는 발주는 팀장 승인을 한 번 더 거치게 둡니다.

리서치: 입찰 공고와 경쟁사 소식 모으기

매일 아침 조달 사이트와 업계 뉴스를 훑어 조건에 맞는 공고를 요약하고, 마감일과 자격 요건을 표로 정리해 팀 채널에 올리는 일은 에이전트가 잘하는 편입니다. 단, 외부 웹페이지를 읽는 에이전트에는 발송이나 결제 권한을 주지 않는 것이 원칙입니다. 웹페이지나 메일 속에 숨겨 둔 문장으로 AI에게 엉뚱한 지시를 내리는 공격(프롬프트 인젝션)이 있기 때문입니다. 오픈AI도 2025년 12월 브라우저 에이전트 보안을 설명하며 이 공격은 사기나 사회공학처럼 “완전히 해결되기는 어렵다”고 인정했습니다.

보고서: 월요일 아침 주간 매출 보고

매주 월요일 7시에 ERP와 영업팀 엑셀을 모아 전주 대비 증감을 계산하고, 증감이 큰 품목과 거래처를 뽑아 원인 후보를 달고, 슬라이드 초안을 만들어 두게 할 수 있습니다. 여기서 사람이 할 일은 숫자 검증입니다. 보고서의 모든 숫자에 원본 파일과 셀 위치를 달게 하면 검토 시간이 크게 줄어듭니다. 원인 해석은 초안으로만 받고, 최종 문장은 영업을 아는 사람이 씁니다.

지금 되는 것과 아직 안 되는 것

연구 기관들의 측정은 발전 속도와 한계를 함께 보여 줍니다.

맡길 수 있는 일의 길이는 빠르게 늘고 있습니다. 비영리 연구기관 METR은 “AI가 50% 확률로 끝내는 과제가 사람에게는 몇 시간짜리 일인가”를 잽니다. 이 길이가 2019년 이후 약 7개월마다 두 배로 늘었고, 2026년 1월 개정한 측정에서는 2023년 이후만 보면 두 배가 되는 데 4개월 남짓 걸렸습니다. 그런데 기준을 성공률 80%로 올리면 맡길 수 있는 과제 길이가 4~6분의 1로 줄어듭니다. 형식이 정리되지 않은 지저분한 과제일수록 성적도 크게 떨어졌습니다. 긴 일을 가끔 해내는 것과 믿고 맡길 만큼 해내는 것은 다른 문제입니다.

실제 외주 일감으로 재면 아직 낮습니다. 미국 비영리 AI안전센터(CAIS)와 스케일AI가 만든 원격노동지수(RLI)는 3D 모델링, 도면, 디자인, 데이터 분석 같은 실제 외주 프로젝트를 AI에게 맡기고, 돈을 낸 고객이 받아들일 수준인지 사람이 판정합니다. 2025년 10월 처음 발표했을 때 최고 성적은 2.5%였고, 2026년 7월에는 Anthropic의 Claude Fable 5가 15.8%를 기록했습니다. 약 여덟 달 만에 여섯 배 넘게 뛰었지만, 뒤집어 보면 여전히 84%의 일감은 고객이 받아 주지 않을 결과물이었습니다. CAIS가 채점을 AI에게 시켜 봤더니 최신 모델의 성공률을 2~3배 부풀렸다는 점도 기록해 둘 만합니다. AI 결과물을 AI만으로 검수하면 점수가 후해집니다.

가상 회사에서도 30% 정도였습니다. 카네기멜런대 연구진이 소프트웨어 회사를 본떠 만든 TheAgentCompany에서 2025년 기준 가장 잘한 에이전트는 과제의 30%를 혼자 끝냈습니다. 간단한 일은 상당수 해냈지만 여러 단계가 길게 이어지는 일에서 막혔습니다.

지금 되는 것과 아직 안 되는 것 관련 장면
AI 생성 이미지

가게를 맡겼더니 손해를 봤습니다. Anthropic은 사무실 간식 판매대 운영을 Claude에게 맡기는 실험(Project Vend)을 했습니다. 2025년 상반기 1단계에서는 직원들의 설득에 넘어가 텅스텐 큐브 같은 물건을 원가보다 싸게 팔아 손해를 봤고, 자기가 파란 재킷을 입은 사람이라고 주장하기도 했습니다. 2단계에서 고객관리 시스템과 재고 도구, 관리자 역할의 에이전트를 붙이자 손실 난 주가 거의 사라졌습니다. 그래도 일부러 속이려는 직원에게는 여전히 휘둘렸고, Anthropic은 “할 수 있다”와 “완전히 믿을 수 있다” 사이의 간격이 아직 넓다고 정리했습니다.

“다 했습니다”라는 보고도 확인해야 합니다. METR은 2026년 6월 오픈AI의 새 모델을 사전 평가한 뒤, 이 모델이 평가 환경의 허점을 이용해 숨겨진 채점 기준을 엿보는 등 부정행위를 한 비율이 자신들이 평가한 공개 모델 가운데 가장 높았다고 밝혔습니다. 목표 달성 압력을 받은 에이전트가 과정을 건너뛰고 결과만 맞춰 보고할 수 있다는 뜻입니다.

이런 한계 때문에 가트너는 2025년 6월, 에이전트형 AI 프로젝트의 40% 이상이 비용 증가, 불분명한 효과, 부족한 위험 관리로 2027년 말까지 취소될 것으로 내다봤습니다. 기존 챗봇이나 RPA에 에이전트 이름만 붙인 ’에이전트 워싱’도 많아서, 에이전트를 내세운 수천 개 업체 가운데 실제 기능을 갖춘 곳은 약 130곳으로 추정했습니다.

지금 맡길 만한 일 조건을 달고 맡길 일 아직 이른 일
자료 수집·요약, 정해진 양식의 초안, 여러 파일 대조 발주·견적 초안(발송 전 승인), 반복 보고서(숫자에 출처 표시) 결제·송금, 계약 조건 확정, 사람 평가처럼 되돌리기 어렵거나 책임이 큰 결정

사람의 역할: 맡기고, 승인하고, 기준을 쓴다

에이전트가 들어와도 사람의 일이 사라지지는 않고 위치가 바뀝니다. KPMG 조사에서 경영진의 49%는 에이전트가 스스로 결정하지 못하게 막는 고위험 업무를 따로 정해 두었다고 답했습니다. 맡길 범위만큼 맡기지 않을 범위를 정하는 일이 이미 기본 관리 방식이 되고 있습니다.

첫째, 일을 정의하는 사람이 필요합니다. 목표, 완료 기준, 예외 처리 규칙을 문장으로 써 줄 수 있어야 에이전트가 제대로 움직입니다. “재고 부족 품목 발주”가 아니라 “안전재고 아래로 떨어진 품목 중 최근 4주 출고가 있는 것만, 거래처 단가표 기준으로, 30만 원 이상은 팀장 승인”처럼 써야 합니다. 이런 문장은 결국 업무 매뉴얼입니다.

둘째, 승인하는 사람이 필요합니다. 돈이 나가거나, 외부로 무언가 발송되거나, 데이터가 지워지는 순간 앞에는 사람의 확인을 둡니다. 셋째, 검수하는 사람이 필요합니다. 결과물 전체를 다시 보는 대신 매주 몇 건을 무작위로 골라 원본과 대조하는 방식이면 부담이 크지 않습니다.

에이전트에게 일을 맡기기 전에 다음 일곱 가지를 확인해 보면 좋습니다.

  1. 완료 기준을 한 문장으로 쓸 수 있는가
  2. 틀렸을 때 되돌릴 수 있는가 (발송, 결제, 삭제는 되돌리기 어렵습니다)
  3. 필요한 데이터에만 접근하는가, 권한이 필요 이상으로 넓지 않은가
  4. 사람이 승인할 지점과 금액 기준이 정해져 있는가
  5. 무엇을 조회하고 무엇을 바꿨는지 작업 기록이 남는가
  6. 외부 웹페이지나 메일을 읽는다면 발송·결제 권한과 분리되어 있는가
  7. 한 달 뒤 결과를 점검할 담당자가 정해져 있는가

에이전트는 일을 대신하는 도구이기 전에 일을 시키는 방식을 바꾸는 도구입니다. 업무를 문장으로 설명할 수 있는 회사가 먼저 효과를 봅니다. 사람에게도 글로 설명해 두지 않은 일은 에이전트에게도 설명할 수 없기 때문입니다. 업무를 글로 정리하는 방법은 자동화보다 매뉴얼(SOP)이 먼저인 이유에서 이어서 다룹니다.

참고한 자료