직원 12명인 인테리어 자재 도매 회사의 대표가 주말에 AI 관련 영상을 몇 편 보고 월요일에 마음먹습니다. “우리도 AI를 써야겠다.” 막상 무엇부터 할지 막막해 직원들에게 물어보니 두 명은 이미 개인 계정으로 ChatGPT를 쓰고 있고, 나머지는 써 본 적이 없다고 합니다. 국내 조사로 보면 이 회사는 아주 평범한 중소기업입니다.

숫자로 본 중소기업의 AI 활용

중소기업의 AI 활용률은 조사마다 5%에서 50%대까지 크게 다릅니다. 무엇을 ’활용’으로 보느냐가 다르기 때문입니다.

조사(발표 시점) 대상 결과
과기정통부·한국지능정보사회진흥원 기업정보화통계(2026년 1월, 2024년 기준) 종사자 10인 이상 기업 21만여 곳 AI 기술·서비스 이용 32.9%, 10~49명 기업 30.6%, 250명 이상 66.9%
대한상의 상의경제연구원(2026년 6월) 근로자 3,000명 생성형 AI를 쓰는 근로자 비율 대기업 66.5%, 중소기업 52.7%
대한상의 제조기업 조사(2025년 11월) 제조기업 504곳 AI를 경영에 활용하는 비율 중소기업 4.2%, 대기업 49.2%

기업정보화통계에서 AI를 이용하는 기업의 65.1%는 무료 서비스를 쓰고 있었습니다. 직원 개인의 사용으로 보면 중소기업 근로자의 절반 남짓이 생성형 AI를 쓰지만, 회사가 경영에 AI를 넣었는지로 따지면 제조 중소기업은 스무 곳 중 한 곳에도 못 미칩니다. 대부분의 작은 회사는 이 두 숫자 사이 어딘가에 있습니다.

안 쓰는 이유도 비슷합니다. 기업정보화통계에서 AI를 쓰지 않는 기업은 경제적 비용 부담(39.6%), 인프라와 인력 부재(34.9%), 우리 수요에 맞는 AI가 없음(26.8%)을 차례로 꼽았고, 규모가 작을수록 인력 부재를 드는 비율이 높았습니다. 대한상의 제조기업 조사에서도 80.7%가 AI를 다룰 전문 인력이 없다고 답했습니다.

작은 회사가 오히려 빠른 이유

통계만 보면 작은 회사가 불리해 보이지만, 일단 시작하면 사정이 다릅니다. 산업통상부의 산업디지털전환 실태조사(2025년 기준, 2026년 4월 보도)에서 AI를 이미 도입한 기업의 투자 회수 기간은 평균 19.3개월이었습니다. 규모별로는 종사자 5명 미만이 14.9개월, 10~49명이 17.1개월, 300명 이상이 26.8개월로 작을수록 짧았고, 5명 미만 기업의 50.4%는 1년 안에 투자금을 회수했습니다.

이 결과는 이미 도입한 기업만을 대상으로 했고, 작은 회사는 애초에 투자 규모가 작다는 점도 함께 봐야 합니다. 그래도 작은 회사에서 효과가 빨리 보인다는 방향은 분명하고, 이유는 구조에 있습니다.

  • 결정이 짧습니다. 대표가 곧 결재권자이고 보고 단계가 한두 개뿐이라, 시범 운영을 시작하거나 멈추는 판단이 며칠이면 끝납니다.
  • 연결할 시스템이 적습니다. 큰 회사처럼 ERP, 그룹웨어, 보안 심사를 모두 거칠 필요가 없고, 엑셀 몇 개와 메일, 카카오톡이 전부인 경우가 많습니다.
  • 한 사람의 변화가 회사 전체의 변화입니다. 직원 12명 회사에서 견적 담당 한 명이 하루 1시간을 아끼면 회사 전체 업무 시간의 1% 남짓이 달라집니다.

대한상의 상의경제연구원 조사는 더 중요한 점을 보여 줍니다. 대기업과 중소기업 근로자의 생성형 AI 활용률 차이는 13.8%포인트였지만, 회사의 지원 체계와 개인의 활용 역량을 함께 고려하자 기업 규모 자체에 따른 차이는 4%포인트 수준으로 줄었습니다. 회사가 AI 사용을 적극 권장하면 근로자가 AI를 쓸 확률이 15.5%포인트, 구독료를 지원하면 8.1%포인트 높아졌습니다. 회사 규모보다 회사가 판을 깔아 주느냐가 더 큰 변수라는 뜻입니다.

작은 회사가 오히려 빠른 이유 관련 장면
AI 생성 이미지

같은 조사에서 AI로 아낀 시간을 어디에 쓰는지 묻자, 중소기업 근로자는 ‘업무 외 휴식과 개인 시간’(27.3%)을 두 번째로 많이 골랐습니다. 대기업 근로자의 2순위는 ‘새 프로젝트와 업무’(22.6%)였습니다. 아낀 시간을 어디에 쓸지 회사가 정해 주지 않으면 도입 효과가 매출로 이어지지 않으니, 첫 90일 계획에는 이 부분까지 들어가야 합니다.

첫 90일 로드맵

작은 회사의 첫 90일은 거창한 전략보다 “업무 하나를 확실히 바꿔 보는 것”을 목표로 잡는 편이 좋습니다. 앞의 자재 도매 회사를 예로 들면 다음과 같습니다.

기간 할 일 남길 결과물
1~2주 AI 담당자 1명을 정하고, 한 장짜리 사용 규칙을 만들고, 업무용 요금제를 고른다. 팀별 반복 업무를 적고 각각 주당 몇 시간이 드는지 잰다 사용 규칙, 업무 목록과 소요 시간
3~6주 업무 하나를 골라 시범 운영한다. 예: 거래처 견적 요청 메일의 회신 초안, 주간 매출 엑셀 요약 보고, 신제품 상세 설명 문구 도입 전후 소요 시간과 수정 횟수 비교
7~10주 잘 된 방식을 문서로 남긴다. 자주 쓰는 지시문(프롬프트)과 양식을 공유 폴더에 모으고 30분짜리 사례 공유회를 연다. 두 번째 업무를 고른다 지시문 모음, 업무별 사용 안내
11~13주 숫자로 정리한다. 줄어든 시간, 오류, 직원 반응을 보고 계속·수정·중단을 정하고, 아낀 시간을 어디에 쓸지(신규 거래처 연락, 재고 점검 등) 정한다 한 장짜리 90일 결과 보고, 다음 분기 계획

첫 업무를 고를 때는 세 가지를 봅니다. 자주 반복되는지, 결과가 틀려도 사람이 보고 바로 고칠 수 있는지, 지금 걸리는 시간을 잴 수 있는지입니다. 거래처에 나가는 견적 금액 확정이나 세금 신고처럼 틀렸을 때 비용이 큰 일은 두 번째, 세 번째 차례로 미룹니다.

비용은 작게 시작할 수 있습니다. 업무용 요금제는 대체로 1인당 월 수만 원 선이라 5명이면 한 달 20만 원 안팎입니다. 시간당 인건비를 2만 5천 원으로 잡으면 한 사람이 주 3시간만 아껴도 한 달에 30만 원어치가 넘으니 요금보다 큽니다. 요금은 서비스와 환율에 따라 달라지므로 도입 시점에 확인하세요.

보안과 개인정보: 이것만은 지키세요

작은 회사일수록 “누가 우리 자료를 보겠어”라고 생각하기 쉽지만, 사고는 대개 선의의 직원에게서 시작됩니다. 2023년 5월 삼성전자는 직원이 민감한 소스코드를 ChatGPT에 올린 일이 드러난 뒤 회사 기기와 사내망에서 생성형 AI 사용을 일시 제한하고, 개인 기기로도 회사 정보를 올리지 말라고 공지했습니다(블룸버그 보도). 외부 서버에 올라간 자료는 회수하거나 지우기 어렵다는 것이 이유였고, 안전한 사용 환경을 갖출 때까지의 임시 조치였습니다.

금지만으로 해결되지도 않습니다. 마이크로소프트와 링크드인의 2024년 업무동향 보고서에서 AI를 쓰는 직장인의 78%가 회사가 준 도구가 아닌 자기 도구를 가져와 쓰고 있었고, 중소기업에서는 그 비율이 80%였습니다. 막으면 몰래 쓰게 되니 회사가 안전한 공식 도구를 주고 규칙을 정하는 편이 낫습니다.

개인정보보호위원회가 2025년 8월 낸 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」는 외부 AI 서비스를 쓰는 기업에 기업용 라이선스를 검토하라고 권합니다. 안내서에 실린 일반적인 비교는 다음과 같습니다. 실제 조건은 서비스와 요금제마다 다르니 약관에서 확인해야 합니다.

보안과 개인정보: 이것만은 지키세요 관련 장면
AI 생성 이미지
구분 개인용 라이선스 기업용 API 라이선스
대화 기록 저장 저장 가능(선택 제공) 기본적으로 입출력 미저장
AI 학습에 활용 기본 활용, 거부(옵트아웃) 가능 기본적으로 활용하지 않음
계약 일반 이용약관 서비스 이용계약과 데이터 처리 부속서(DPA)

안내서는 데이터 처리 부속서로 입력 데이터의 소유권, 재이용 제한, 안전조치, 파기 같은 사항을 계약에 분명히 적어 두라고 권고합니다. 여기에 더해 직원용 사용 규칙에는 최소한 다음 다섯 줄이 들어가야 합니다.

  1. 고객과 직원의 개인정보(이름과 연락처가 함께 있는 명단, 주민등록번호, 계좌번호)는 넣지 않는다.
  2. 거래처 단가표, 도면, 원가 자료는 회사가 정한 업무용 계정에서만 쓴다.
  3. 거래처와 고객에게 나가는 글은 사람이 끝까지 읽고 보낸다.
  4. 계정은 한 사람에 하나씩 쓰고, 퇴사자 계정은 퇴사일에 회수한다.
  5. 판단이 서지 않으면 넣기 전에 AI 담당자에게 묻는다.

2026년 정부 지원사업

올해는 중소기업과 소상공인의 AI 도입을 돕는 사업이 여럿 열렸습니다. 아래는 2026년 9월까지 발표된 공고와 보도를 확인한 내용입니다. 대부분 상반기에 접수가 끝났으니 내년 공고를 준비하는 참고 자료로 보면 됩니다.

사업(주관) 지원 내용 2026년 접수
AI 바우처(과기정통부·정보통신산업진흥원) 중소기업·소상공인의 AI 솔루션 도입 비용, 과제당 2억 원 안팎, 올해 252억 원·130개 과제 3월 말 마감
AX 원스톱 바우처(과기정통부·정보통신산업진흥원) AI·클라우드·데이터를 묶어 지원하는 신설 사업, 과제당 약 13억 원, 총 260억 원 상반기 마감(추가 모집 포함)
중소기업 스마트 서비스 지원사업(중기부·중소기업기술정보진흥원) 서비스업 중소기업의 AI·디지털 솔루션 구축, 신규 150곳 최대 5천만 원, 고도화 25곳 최대 1억 원, 솔루션 기업과 컨소시엄으로 신청 5월 22일 마감
혁신 소상공인 AI 활용지원(중기부·소상공인시장진흥공단) 680곳 안팎에 AI 멘토링과 사업화 자금 최대 4천만 원(정부 80%, 자부담 20%) 7월 3일 마감
소상공인 AI 상생협업교육(중기부·소상공인시장진흥공단) 5천 곳 안팎, 4시간 안팎의 1일 과정과 실습 위주 패키지 과정 과정별 별도 공고

지원사업은 무엇을 할지 이미 정한 회사에 유리합니다. 사업계획서에는 해결할 문제, 지금의 소요 시간과 비용, 도입 뒤 기대 효과를 적어야 하는데, 90일 로드맵에서 남긴 업무 목록과 전후 비교가 그대로 근거 자료가 됩니다. 반대로 자부담 비율, 사업에 따라 등록된 공급기업 가운데서 골라야 하는 조건, 서류와 정산 부담도 있으니 지원금 규모만 보고 과제를 키우지 않는 것이 좋습니다. 공고는 기업마당(bizinfo.go.kr)과 각 기관 누리집에 올라옵니다. 올해는 AI 바우처가 3월 말까지, 스마트 서비스 사업이 4~5월에 접수를 받았으니 내년에도 연초부터 공고를 살피는 편이 좋습니다.

작은 회사의 AI는 큰 투자보다 작은 습관에서 시작합니다. 담당자 한 명, 한 장짜리 규칙, 업무 하나, 그리고 90일 뒤의 숫자 한 줄이면 첫 단계로 충분합니다. 그 숫자가 쌓이면 다음 업무를 고르는 일도, 지원사업을 신청하는 일도 훨씬 쉬워집니다.

어떤 업무부터 고를지는 무엇부터 자동화할까에서 점수표로 정리했고, 직원들이 함께 배우며 시작하고 싶다면 AI 교육·컨설팅을 참고하세요.

참고한 자료