직원 40명인 식자재 유통 회사가 외부 강사를 불러 두 시간짜리 생성형 AI 특강을 열었다고 해 보겠습니다. 강의는 재미있었고 설문 만족도도 높았습니다. 그런데 한 달 뒤 확인해 보니 회사가 결제한 AI 계정에 매주 들어오는 사람은 서너 명뿐이었습니다. 그마저 원래 혼자 쓰던 직원들이었습니다. 교육에 돈과 시간을 썼는데 일하는 방식은 그대로입니다. 이런 결과가 나오는 이유와 교육을 다르게 짜는 방법을 정리합니다.

교육받은 직원은 생각보다 적습니다

직원들이 AI를 아예 모르는 것은 아닙니다. 한국은행이 2025년 8월 발표한 조사에서 국내 근로자의 51.8%가 생성형 AI를 업무에 쓰고 있었습니다. 그런데 제대로 배운 사람은 그보다 훨씬 적습니다. 멜버른대와 KPMG가 2024년 11월부터 2025년 1월 중순까지 47개국 4만 8천여 명을 조사한 「AI 신뢰·태도·활용 글로벌 연구 2025」를 보면, 한국 응답자 가운데 AI 관련 교육을 정식이든 비공식이든 받아 본 사람은 36%였습니다. 전 세계 평균은 39%였습니다.

조사 (시점) 대상 교육과 활용 관련 수치
한국은행 (2025년 8월 발표) 국내 근로자 업무에 생성형 AI 사용 51.8%
멜버른대·KPMG (2024년 11월~2025년 1월 조사) 한국 응답자 AI 교육 경험 36%, AI 도구를 효과적으로 쓸 수 있다 42%
BCG 「AI at Work 2025」 (2025년 6월 발표) 11개국 직장인 1만 600여 명 충분히 교육받았다고 느낀다 36%
슬랙 워크포스 랩 (2024년 3월 조사) 6개국 사무직 1만 45명 AI를 잘 쓰는 데 필요한 교육을 받았다에 “매우 그렇다” 15%

정리하면 직원 절반은 이미 AI를 쓰는데, 배운 적이 있는 사람은 셋 중 한 명 꼴입니다. 나머지는 유튜브와 동료 어깨너머로 익혔습니다. 그래서 같은 회사 안에서도 쓰는 사람과 안 쓰는 사람, 잘 쓰는 사람과 위험하게 쓰는 사람이 뒤섞여 있습니다.

배우지 않고 쓴 결과도 숫자로 나옵니다. 같은 KPMG 조사에서 한국의 직장인 응답자 67%가 AI 결과물을 정확한지 확인하지 않고 업무에 쓴 적이 있다고 답했습니다. AI 때문에 업무에서 실수한 적이 있다는 응답은 56%였고, 회사 정책이나 지침에 어긋나게 쓴 적이 있다는 응답은 51%였습니다. 교육은 쓰게 만드는 일만큼이나 제대로 쓰게 만드는 일입니다.

특강 한 번으로 끝나지 않는 이유

보스턴컨설팅그룹(BCG)이 2025년 6월 낸 「AI at Work 2025」는 교육 방식과 실제 사용을 함께 봤습니다. 교육을 5시간 이상 받은 직원, 특히 대면 교육과 코칭을 받은 직원이 AI를 정기적으로 쓸 가능성이 훨씬 높았습니다. 두 시간 특강은 이 기준에 못 미칩니다. 들을 때는 고개를 끄덕이지만, 자리로 돌아가 자기 업무에 처음 적용하는 순간 막히고, 그때 물어볼 사람이 없습니다.

슬랙 조사에서도 AI 교육을 받은 사무직은 받지 않은 사람보다 “AI가 생산성을 높인다”고 답할 가능성이 최대 19배 높았고, 업무에 AI를 믿고 쓸 가능성은 7배 높았습니다. 다만 이 숫자들은 상관관계입니다. 원래 관심이 많은 사람이 교육도 더 찾아 들었을 수 있고, 조사한 회사가 AI 기능을 파는 회사라는 점도 감안해야 합니다. 그래도 여러 조사가 같은 방향을 가리킨다는 점은 분명합니다.

특강 한 번으로 끝나지 않는 이유 관련 장면
AI 생성 이미지

더 중요한 것은 무엇을 가르치느냐입니다. 마이크로소프트와 링크드인의 2024년 조사에서 AI를 많이 쓰는 ’파워 유저’는 그렇지 않은 사람보다 자기 직무에 맞춘 AI 교육을 받았을 가능성이 35% 높았습니다. 와튼스쿨의 이선 몰릭 교수는 2025년 5월 글에서 프롬프트 기법을 외우게 하기보다 직접 써 보는 경험을 쌓게 하라고 권했습니다. 모델이 사람의 의도를 점점 잘 알아듣기 때문에, 요령보다 “내 일에서 무엇을 맡길지”를 아는 쪽이 오래 간다는 이유입니다.

무엇을 가르칠까: 세 층으로 나누기

사내 AI 교육은 세 층으로 나눠 보면 빠진 곳이 보입니다. 첫째는 도구 사용법입니다. 회사가 승인한 도구에 로그인하고, 파일을 올리고, 대화를 이어 가는 법입니다. 대부분의 특강이 여기서 끝납니다. 둘째는 업무 적용입니다. 내 업무 가운데 어떤 일을 AI에 맡기고 어떤 일은 직접 할지 가르는 능력입니다. 셋째는 검증과 규칙입니다. 결과물에서 틀린 숫자를 찾고, 넣으면 안 되는 정보를 구분하는 습관입니다.

둘째 층은 부서마다 내용이 다릅니다. 아래처럼 직무별 과제를 미리 정해 두면 교육이 강의에서 실습으로 바뀝니다.

직무 실습 과제 예시 꼭 확인할 것
영업 거래처 문의 메일에 답장 초안 쓰기, 견적 비교표 정리 단가와 납기를 원본과 대조
회계·총무 거래처별 미수금 목록에서 독촉 메일 초안 쓰기, 규정 질문에 답 찾기 금액, 날짜, 규정 조항 번호
생산·물류 작업일보를 주간 요약으로 바꾸기, 불량 사유 분류 수량 합계가 원자료와 맞는지
팀장 회의록에서 할 일과 담당자 뽑기, 보고서 초안 검토 빠진 결정 사항이 없는지

셋째 층은 회사 규칙과 함께 가르쳐야 합니다. 고객 연락처나 원가표를 어디에 넣으면 안 되는지는 사내 AI 사용 규칙 만드는 법에서 등급표로 정리했습니다. 교육에서는 그 등급표를 자기 부서 자료에 적용해 보는 연습을 넣으면 됩니다. 검증 연습도 따로 시간을 잡습니다. 일부러 틀린 숫자가 섞인 AI 요약문을 주고 찾아내게 하면, 확인 없이 붙여 넣는 습관이 눈에 띄게 줄어듭니다.

4주 교육 설계 예시

BCG가 말한 5시간 이상, 대면과 코칭이라는 조건을 작은 회사에 맞춰 옮기면 아래와 같은 4주 일정이 됩니다. 한 번에 몰아서 하지 않고 주마다 나눠 실제 업무 사이에 끼워 넣는 것이 핵심입니다.

주차 시간 내용 끝났을 때 남는 것
1주 1.5시간 대면 승인 도구 사용법, 정보 등급표, 각자 반복 업무 5개 적기 개인별 업무 목록
2주 1.5시간 대면 + 개별 실습 목록에서 하나를 골라 AI로 처리해 보기, 막힌 곳 코칭 첫 번째 활용 사례
3주 1시간 대면 + 개별 실습 결과물 검증 연습, 두 번째 업무에 적용 검증 체크 습관, 두 번째 사례
4주 1시간 발표 부서별로 잘된 사례와 실패한 사례 발표, 프롬프트 공유 사내 활용 사례 모음

모두 합치면 대면 5시간에 개별 실습 시간이 더해집니다. 2주차 코칭이 가장 중요합니다. 직원이 자기 업무에 처음 적용하다 막히는 순간에 옆에서 한 번 풀어 주면, 그 경험이 이후 사용을 좌우합니다. 사내에 AI를 잘 쓰는 직원이 한두 명 있다면 그 사람에게 코칭을 맡기고 업무 시간을 빼 주는 것도 방법입니다.

4주 교육 설계 예시 관련 장면
AI 생성 이미지

교육을 시작하기 전에 아래 항목을 점검해 보세요.

  • 직원 모두가 쓸 수 있는 승인된 AI 계정이 있는가
  • 넣으면 안 되는 정보가 문서로 정해져 있는가
  • 부서별 실습 과제가 실제 업무 자료로 준비됐는가
  • 막혔을 때 물어볼 사람이 정해져 있는가
  • 팀장이 교육에 같이 참여하는가
  • 잘된 사례를 모아 둘 공유 문서가 있는가
  • 교육 전 업무 소요 시간을 기록해 두었는가

숨어서 쓰는 직원과 팀장의 역할

교육을 열어도 이미 AI를 잘 쓰는 직원이 자기 방법을 공유하지 않는 경우가 많습니다. 몰릭 교수는 이런 사람을 ’숨은 사이보그’라고 불렀습니다. 숨기는 데는 이유가 있습니다. 혼날까 봐, 동료가 일을 깎아내릴까 봐, 일이 빨라진 만큼 일거리만 늘어날까 봐, 심하면 자리가 없어질까 봐서입니다. BCG 조사에서 응답자의 54%는 회사가 허용하지 않아도 AI 도구를 쓰겠다고 답했습니다. 막는다고 안 쓰는 것이 아니라 보이지 않게 쓸 뿐입니다.

그래서 교육과 함께 경영진의 메시지가 필요합니다. AI로 아낀 시간을 무엇에 쓸지, 사람을 줄이려는 것인지 일을 키우려는 것인지를 먼저 말해야 합니다. BCG는 리더의 지원이 강할 때 생성형 AI를 긍정적으로 보는 직원 비율이 15%에서 55%로 올라간다고 보고했습니다. 그런데 현장 직원 가운데 리더에게 충분한 지원을 받는다고 답한 사람은 약 4분의 1이었습니다.

팀장의 역할도 큽니다. 갤럽이 2025년 8월 미국 근로자 2만 3,068명을 조사한 결과, 직원의 AI 활용은 관리자의 지원과 강하게 연결돼 있었습니다. 같은 조사에서 23%는 자기 회사가 AI를 도입했는지조차 모른다고 답했고, 이 비율은 직급이 낮을수록 높았습니다. 팀장이 교육에 같이 들어가 자기 업무로 실습하고, 주간 회의에서 “이번 주에 AI로 해 본 것”을 한 가지씩 묻기만 해도 공유가 시작됩니다.

국내 중소기업의 사정도 크게 다르지 않습니다. 한국중소벤처기업유통원이 2026년 5~6월 중소기업 1,066곳을 조사한 결과 57.5%가 AI를 쓰고 있었지만, 가장 큰 어려움으로 ‘전문인력·교육 부족’(32.9%)을 꼽았습니다. 원하는 지원으로 ’단계별 AI 교육’을 고른 곳도 17.6%였습니다. 도구는 이미 들어왔고, 그다음에 막히는 지점이 사람입니다.

교육이 효과를 냈는지 보는 법

만족도 설문만으로는 교육 효과를 알 수 없습니다. 한국은행 조사에서 생성형 AI를 쓴 근로자의 업무 시간은 평균 3.8% 줄었지만, 써도 업무 시간이 줄지 않았다는 사람이 54.1%였습니다. 쓰는 것과 일이 줄어드는 것은 다른 문제입니다. 그 간극은 AI 업무 효율은 얼마나 오를까에서 자세히 다뤘습니다.

교육 전후로 볼 숫자는 네 가지면 충분합니다. 승인 계정에 매주 접속하는 직원 비율, 실습 과제로 고른 업무의 건당 처리 시간, 공유 문서에 쌓인 활용 사례 수, 그리고 AI 결과물 때문에 생긴 오류 건수입니다. 마지막 숫자가 늘었다면 셋째 층인 검증 교육을 다시 해야 합니다.

계산 예시를 하나 들어 보겠습니다. 영업지원 직원 다섯 명이 월 60건씩 견적 회신 메일을 쓰는데, 교육 전에는 건당 20분 걸리던 일이 교육 후 12분으로 줄었다고 해 보겠습니다. 한 사람이 한 달에 8시간, 다섯 명이면 40시간입니다. 교육에 들어간 시간은 다섯 명이 5시간씩 25시간에 코칭 시간을 더한 정도이니, 이 업무 하나만으로 첫 달 안에 교육 시간을 되찾습니다. 단, 아낀 40시간을 어디에 쓸지 정하지 않으면 그 시간은 흩어집니다. 미수금 확인이나 거래처 방문처럼 늘 밀리던 일에 붙여 두는 것까지가 교육 설계입니다.

AI 교육은 한 번 듣는 강의가 아니라 몇 주에 걸쳐 일하는 방식을 바꾸는 과정에 가깝습니다. 자기 업무 자료로 실습하고, 막힐 때 물어볼 사람이 있고, 팀장이 같이 쓰고, 잘된 방법이 공유되는 구조를 만들면 특강 한 번보다 훨씬 오래 갑니다. 직원들이 실제 업무로 실습하는 교육을 어떻게 진행하는지는 AI 교육·컨설팅에서 볼 수 있습니다.

참고한 자료