Colibri로 로컬 AI를 처음 실습했을 때, 커피를 마시고 왔는데도 아직 답변이 나오지 않았습니다. 최소 사양(RAM 25GB)에서는 한 문장 생성에 수십 초가 걸립니다.
그런데 이 느린 AI가 2026년 9월 GitHub 전체 트렌딩 1위에 올랐습니다. 왜일까요?
속도가 느려도 쓸 이유가 있습니다. 계약서·인사 정보·거래 내역 같은 민감한 데이터를 클라우드에 올리지 않고, 완전히 내 PC 안에서만 처리할 수 있기 때문입니다. Apache 2.0(엔진) + MIT(GLM-5.2 모델 가중치) 라이선스 조합으로 상업적으로도 무료입니다.
2026년 9월 GitHub 전체 트렌딩 1위 — Colibri란 무엇인가
Colibri(콜리브리)는 개발자 JustVugg가 순수 C 언어 2,400줄로 만든 오픈소스 AI 실행 엔진입니다. 이 엔진 위에서 GLM-5.2 — 중국 칭화대 연구팀이 만든 744B(7,440억) 파라미터 AI가 실행됩니다. 파라미터 수 기준으로는 GPT-4 Turbo급 이상입니다.
왜 25GB RAM만으로 가능한가? — SSD 스트리밍 방식 덕분입니다. 일반 AI는 모델 전체를 RAM에 올려야 하지만, Colibri는 SSD를 창고처럼 쓰고 필요한 부분만 그때그때 꺼내옵니다. 대신 NVMe SSD 370GB 여유 공간이 필요합니다.
라이선스: Colibri 엔진은 Apache 2.0, GLM-5.2 모델 가중치는 MIT. 상업적 이용이 허용되고, 별도 비용이 없습니다.
속도 현실부터 봅니다
ChatGPT처럼 즉각 응답을 기대하면 실망합니다. 속도는 사양에 따라 크게 차이 납니다.
| 사양 | 속도 |
|---|---|
| 최소 사양 (RAM 25GB + NVMe SSD) | 초당 0.05~0.1 토큰 — 한 문장 생성에 수십 초~수 분 |
| 고사양 (RAM 128GB 데스크탑) | 약 1.8 tok/s |
| MacBook M2 Max | 약 0.1 tok/s |
ChatGPT처럼 빠르진 않습니다. 하지만 문서 분석·초안 작성처럼 기다릴 수 있는 업무에서는 충분합니다. AI에 요청을 넣고 다른 일을 하다 돌아오면 답변이 완성돼 있는 식으로 씁니다.
▲ 사양별 Colibri 실측 속도 · 출처: github.com/JustVugg/colibri README, betterstack.com/community/guides/ai/colibri-glm
5단계 실습 — 복붙만 하면 됩니다
시작 전 사양 확인:
| 항목 | 최소 사양 |
|---|---|
| RAM | 25GB 이상 (32GB 이상 권장) |
| 저장공간 | NVMe SSD 370GB 여유 공간 |
| OS | Linux / macOS / Windows 11 WSL2 |
| GPU | 없어도 됩니다 |
① 소스 코드 내려받기
git clone https://github.com/JustVugg/colibri
cd colibri② 빌드 (1~2분 소요)
make오류 없이 완료되면 성공입니다.
③ 모델 다운로드 (약 370GB — 수 시간 소요)
./colibri download glm5.2-744b④ 실행
./colibri chat⑤ 채팅 시작 브라우저에서 http://localhost:8080을 열면 채팅 화면이 나타납니다. 인터넷 없이도 동작합니다.
AI를 내 업무에 연결하는 방법이 궁금하시다면, 30분 무료 상담을 신청하세요. 🌐 https://www.visionc.co.kr/ai-solution
"느린 AI"를 어디에 쓸까 — 중소기업 활용 시나리오
속도가 느려도 잘 맞는 업무가 있습니다. 핵심은 기다려도 되는 작업 + 민감한 데이터입니다.
계약서·문서 검토: 계약서를 붙여넣고 "불리한 조항 찾아줘", "핵심 조건 세 줄로 요약해줘"를 요청합니다. 고객 정보가 외부로 나가지 않습니다.
해외 문서 번역: 기밀 계약서나 공급망 서류를 클라우드 번역 서비스에 올리지 않고 번역합니다.
보고서·이메일 초안: AI에 요청을 넣고 다른 업무를 보다가 돌아오면 초안이 완성돼 있습니다.
사내 Q&A 자동화: 회사 매뉴얼·제품 카탈로그를 학습시켜 신입 직원이 직접 물어보고 답을 얻는 구조를 만듭니다.
반면 실시간 고객 응대 챗봇처럼 즉각 응답이 필요한 용도에는 맞지 않습니다.
(주)비젼솔루션이 보는 관점
AI 도구를 고를 때 "얼마나 빠른가"보다 먼저 물어야 할 게 있습니다. "데이터가 어디로 가는가"입니다. 계약서·인사 정보·거래 데이터처럼 절대 외부 서버로 보내면 안 되는 것들이 있고, 그런 데이터를 다뤄야 할 때 Colibri 같은 완전 로컬 AI가 유일한 현실적 선택이 됩니다. 느린 속도는 단점이 맞습니다. 하지만 그 단점을 알고, 맞는 업무에 쓰면 충분히 실용적입니다.
내 PC에서 실행 가능한지 먼저 확인하세요
| 확인 항목 | 확인 방법 |
|---|---|
| RAM 용량 | Windows: 작업 관리자 → 성능 탭 / Mac: 시스템 정보 |
| SSD 타입 확인 | NVMe 여부: CrystalDiskInfo(무료 프로그램)로 확인 |
| SSD 여유 공간 | 370GB 이상 필요 |
RAM이 25GB 미만이거나 SATA SSD라면 지금 당장 실행하기 어렵습니다. 이 경우에는 Ollama + Qwen 7B처럼 소형 로컬 모델로 먼저 시작하는 방법도 있습니다.
자주 묻는 질문
Q. Apache 2.0 라이선스면 상업용으로 써도 되나요? A. 네. Colibri 엔진은 Apache 2.0, GLM-5.2 모델 가중치는 MIT 라이선스입니다. 두 라이선스 모두 상업적 이용이 허용됩니다.
Q. Windows에서도 쓸 수 있나요? A. Windows 11의 WSL2 환경에서 실행 가능합니다. WSL2 설치는 Microsoft 공식 문서를 참고하세요.
Q. 데이터가 외부로 나가지 않는다는 게 확실한가요? A. 모델 다운로드 시에만 인터넷을 씁니다. 실행 이후 모든 대화는 완전 오프라인으로 작동하고, 인터넷 연결을 끊어도 정상 작동합니다.
Vision Solution AI 솔루션 문의: 📧 [email protected] 🌐 https://www.visionc.co.kr/ai-solution