오후 3시, 직원 A씨가 거래처 계약서를 복사해 ChatGPT 창에 붙여넣었습니다.
"이 계약 조항, 이상한 부분 찾아줘."
막아야 할까요, 그냥 둬야 할까요.
알고 보면 A씨 혼자만의 일이 아닙니다. 다른 직원들도 이미 쓰고 있습니다. 사장님만 모를 뿐입니다.
AI 도입 방향이 막막하다면 → (주)비젼솔루션 AI 솔루션 무료 상담 (지금 신청 가능)
직원 64%가 이미 몰래 씁니다
2026년 7월 14일, 보안 전문 기업 WatchGuard가 사이버보안 리포트를 발표했습니다. 수치가 예상보다 컸습니다.
직원 64%가 회사 승인 없이 AI 도구를 씁니다. 두 번째 수치가 더 충격적입니다. 기업의 98%에 무단 AI 사용자가 이미 있습니다.
100개 회사 중 98곳. 사실상 모든 회사입니다.
▲ 섀도AI 현황 · 출처: WatchGuard 2026 사이버보안 리포트 (2026.07.14)
섀도AI란 무엇일까요? IT 업계에서 오래된 용어인 "섀도 IT"에서 나왔습니다. 회사의 승인 없이 직원이 개인적으로 쓰는 소프트웨어·서비스를 말합니다. 그 자리에 AI가 들어온 것이 섀도AI입니다. 회사가 모르는 사이에 업무 데이터가 외부 AI 서비스로 흘러 들어가는 상황입니다.
직원들이 몰래 쓰는 이유는 간단합니다. 업무가 빨라지니까요. 막는다고 안 쓸까요? IT 전문 미디어 Platum 보도에 따르면, Z세대 직원의 44%는 회사의 AI 정책에 동의하지 않으면 그 방침을 따르지 않는다고 답했습니다.
금지만으로는 해결이 안 됩니다.
그런데 AI 보안 정책을 갖춘 회사는 얼마나 될까요? 18%입니다. 82%의 회사는 직원이 어떤 AI를 써도 아무 기준이 없습니다.
AI 정책 수립이 필요하다면 → (주)비젼솔루션 AI 솔루션 상담 (무료 진단 중)
계약서를 ChatGPT에 넣으면 어떻게 될까요?
오픈AI의 기본 약관에 따르면, ChatGPT 무료 계정에 입력한 내용은 모델 개선 학습에 활용될 수 있습니다. 유료 비즈니스 플랜($25/월)에서는 학습 사용을 차단할 수 있지만, 무료 계정은 다릅니다.
직원이 무료 계정으로 계약서를 올리는 순간, 그 내용이 오픈AI 서버에 저장되고 학습 데이터로 쓰일 수 있습니다. 거래처 이름, 금액, 납기 조건, 서비스 내용 — 전부 외부로 나갑니다.
업종에 따라 위험이 커집니다.
병원, 법무사, 회계사무소처럼 개인정보를 다루는 곳은 개인정보보호법 위반이 될 수 있습니다. 제조업이나 무역업이라면 거래처와 맺은 비밀 유지 계약(NDA)을 어기는 상황이 생깁니다. 발견되면 계약 해지와 손해배상 청구로 이어질 수 있습니다.
그렇다고 전면 금지가 답일까요? AI를 쓰는 직원이 2배 빠른 속도로 일하는 동안, AI를 막은 회사만 뒤처집니다. 결국 답은 하나입니다.
막는 것이 아니라, 안전하게 쓸 수 있는 환경을 만드는 것.
LiteLLM — 5분 만에 회사 AI 관문 세우기
무료 오픈소스 도구: github.com/BerriAI/litellm (GitHub 스타 40,000+, YC 투자, Docker 풀 2억 4천만 회)
LiteLLM은 회사 내부에 설치하는 오픈소스 AI 프록시 서버입니다. 직원들이 ChatGPT·Claude·Gemini를 쓸 때 반드시 회사 서버를 거쳐 가도록 만드는 관문입니다.
이 관문을 세우면 세 가지가 달라집니다.
① 사용량 추적 — 누가 어떤 AI를 언제 얼마나 쓰는지 대시보드로 볼 수 있습니다. 특정 직원이 회사 데이터를 AI에 대량으로 올리고 있다면 즉시 확인됩니다.
② 예산 통제 — 직원별·부서별로 월 AI 사용 예산을 설정할 수 있습니다. 한도를 넘으면 자동으로 차단됩니다. AI 비용이 통제 없이 늘어나는 일을 막을 수 있습니다.
③ 모델 제한 — 허용된 AI 모델만 쓰도록 강제합니다. "업무에는 Claude만 허용, 무료 모델은 차단"처럼 회사 규칙을 정할 수 있습니다.
솔직한 요구사항도 공개합니다.
| 항목 | 기준 |
|---|---|
| 서버 사양 | RAM 2GB 이상 PC 또는 클라우드 VM |
| LiteLLM 비용 | 무료 (AI API 사용료는 별도) |
| 설치 난이도 | Docker 경험 있으면 30분 내 완료 |
| 완전 데이터 격리 | 로컬 LLM 추가 설정 필요 (Ollama 등) |
클라우드 AI(ChatGPT 직접 사용)와 비교하면 어떨까요? 클라우드 AI는 편하지만 데이터가 외부로 나갑니다. LiteLLM은 회사 서버에 설치해 데이터 흐름을 통제하되, 직원은 평소처럼 AI를 씁니다. 서버 운영이 부담스럽다면 클라우드 VM에 올리는 방법도 있습니다.
▲ LiteLLM 도입 흐름 · 출처: github.com/BerriAI/litellm 공식 문서
(주)비젼솔루션의 관점을 하나 덧붙입니다. 섀도AI는 보안 문제이기 전에 신뢰의 문제입니다. 직원이 몰래 AI를 쓴다는 건, 회사가 공식적으로 AI를 쓸 통로를 만들어주지 않았다는 뜻이기도 합니다. 에너지를 막는 데 쓰기보다, "왜 직원이 그걸 썼는가"를 먼저 물어야 합니다. 그 안에 업무 비효율의 신호가 있습니다. LiteLLM은 그 신호를 받아들이는 방법입니다. 직원의 AI 사용은 인정하되, 데이터 통제는 회사가 갖는 것 — 그게 현실적인 섀도AI 해법입니다.
5분 실습 — 설치부터 팀 공유까지
아래 단계는 Python이 설치된 Windows·Mac·Linux 공통입니다.
① pip 한 줄 설치
pip install 'litellm[proxy]'② 프록시 서버 시작 (OpenAI 모델 예시)
export OPENAI_API_KEY="여기에-API-키-입력"
litellm --model gpt-4o브라우저에서 http://localhost:4000으로 접속하면 대시보드가 열립니다. 이 주소로 팀원 전원이 AI를 쓸 수 있습니다.
Docker로 서버에 올리는 방법 (팀 공유용)
docker run -d -p 4000:4000 \
-e OPENAI_API_KEY="여기에-API-키-입력" \
ghcr.io/berriai/litellm:main-latest서버 IP가 192.168.1.10이라면, 팀원들한테 http://192.168.1.10:4000을 알려주면 끝입니다. 모든 AI 요청이 이 관문을 통합니다.
직원별 예산 제한 설정 예시 (config.yaml)
model_list:
- model_name: gpt-4o
litellm_params:
model: gpt-4o
api_key: "여기에-API-키-입력"
router_settings:
num_retries: 3
litellm_settings:
max_budget: 50 # 월 50달러 한도자세한 설정은 공식 문서 docs.litellm.ai에서 확인하실 수 있습니다.
나중에 사내 문서 검색, 고객 응대 챗봇, 보고서 자동화를 붙이고 싶을 때도 이 관문 하나로 통합 관리할 수 있습니다. 기반을 한 번 깔아두면 이후 확장이 훨씬 수월합니다.
서버 셋업이 부담스럽거나 우리 회사 업무에 맞게 커스텀이 필요하다면 → (주)비젼솔루션 AI 솔루션 (무료 상담 진행 중)
자주 묻는 질문
Q. 직원한테 "AI 사용 금지" 문서로 명문화하면 안 될까요?
명문화는 반드시 필요합니다. 그런데 금지만으로는 막히지 않습니다. WatchGuard 리포트가 보여주듯, 정책이 없는 82% 회사뿐 아니라 정책이 있는 18%에서도 무단 사용이 발생합니다. 금지 정책과 안전한 공식 도구, 두 가지를 함께 줘야 효과가 있습니다.
Q. LiteLLM이 데이터를 완전히 보호해 주나요?
LiteLLM은 회사 내부 관문 역할을 합니다. 그런데 GPT-4나 Claude 같은 외부 AI를 연결하면 데이터는 여전히 그 AI 회사 서버로 전송됩니다. 완전한 데이터 격리가 필요하다면 Ollama 같은 로컬 LLM을 함께 써야 합니다.
Q. 직원 10명 이하 소규모 사업장도 필요할까요?
오히려 작은 회사일수록 한 명의 실수가 전체에 영향을 미칩니다. LiteLLM은 pip 한 줄로 설치 가능하고 무료라, 규모에 상관없이 적용할 수 있습니다.
섀도AI는 이미 우리 회사에 있습니다. 몰랐을 뿐입니다. LiteLLM 설치 한 번으로, 내일부터는 직원들이 어떤 AI를 얼마나 쓰는지 사장님이 볼 수 있습니다. 무료입니다.
Vision Solution AI 솔루션 문의: 📧 [email protected] 🌐 https://www.visionc.co.kr/ai-solution