무료 AI 비서, 깔기 전 확인할 3가지

무료 AI 비서, 깔기 전 확인할 3가지

·(주)비젼솔루션·약 6분

무료 AI 비서를 회사에 붙이기 전 확인할 것을 정리했습니다. GitHub 별 25만 개를 넘긴 오픈소스 헤르메스 에이전트를 예로, 모델 선택, 클로드 코드와의 쓰임새 차이, '전부 허용' 버튼과 스킬 자동 수정의 위험을 다룹니다.

목차클릭하여 접기/펼치기
  1. 1.쓸수록 메모가 쌓이는 신입 직원
  2. 2.도구는 무료, 두뇌는 따로 계산됩니다
  3. 3.'전부 허용' 버튼은 누르지 마세요
  4. 4.우리 회사에는 이렇게 붙입니다
  5. 5.오늘 해 볼 수 있는 5단계
  6. 6.자주 묻는 질문

"무료라길래 깔았는데, 시키는 일을 제대로 못 하면 어쩌지."

무료 AI 비서를 회사에 붙여 보려는 분이라면 한 번쯤 드는 걱정입니다. 헤르메스 에이전트는 10월 26일 현재 GitHub 별이 약 25만 7천 개인 오픈소스 AI 비서예요. MIT 라이선스라 프로그램 자체는 정말 무료입니다. 막힐 만한 지점은 다른 곳에 있어요.

도입 전에 알아둘 건 세 가지예요. 일을 시킬 AI 두뇌의 품질, 클로드 코드와 쓰임새가 어떻게 다른지, 그리고 '전부 허용' 버튼과 스킬 자동 수정입니다.

VISIONC 마스코트

쓸수록 메모가 쌓이는 신입 직원

헤르메스 에이전트는 Nous Research라는 AI 연구소가 만든 프로그램입니다. 공식 저장소는 이 에이전트를 이렇게 소개합니다.

"Autonomous skill creation after complex tasks. Skills self-improve during use." (복잡한 일을 끝내면 스스로 스킬을 만들고, 쓰면서 그 스킬을 다듬는다) — github.com/NousResearch/hermes-agent

쉽게 말하면 일을 끝낼 때마다 업무 메모를 남기는 신입 직원입니다. "이 거래처는 견적서 맨 위에 담당자 이름부터 쓴다" 같은 요령을 파일로 적어 둡니다. 다음에 비슷한 일을 시키면 그 메모를 꺼내 봅니다.

이 메모는 ~/.hermes/skills/ 폴더에 일반 문서 파일로 저장됩니다. 사람이 열어서 고칠 수도 있고요. 속을 들여다볼 수 있다는 점이 중소기업에는 꽤 큰 장점이에요. 다만 공식 문서는 에이전트도 스킬을 고치거나 지울 수 있다고 적고 있어서, 이 부분은 아래에서 따로 짚습니다.

6월에 소개한 글에서는 이 학습 구조를 자세히 다뤘습니다. 이번에는 별이 25만 개가 된 지금, 실제로 붙여 보려는 분들이 부딪히는 현실 문제를 다룹니다.

도구는 무료, 두뇌는 따로 계산됩니다

헤르메스는 AI 두뇌(모델)를 직접 품고 있지 않습니다. 공식 설명에 따르면 Nous Portal, OpenRouter, OpenAI 등 원하는 모델을 연결하고 hermes model 명령으로 바꿔 끼웁니다. 프로그램은 무료여도 모델은 따로 골라야 한다는 뜻이에요.

여기서 첫 번째 함정이 나옵니다. 아래 표는 헤르메스 공식 자료가 아니라 외부 안내 사이트 Hermes Atlas(hermesatlas.com)의 가이드 평가를 정리한 것입니다. 이 사이트가 모델별 도구 호출 능력을 어떻게 보는지 보여 줍니다.

두뇌 종류비용(가이드 기준)도구 호출 능력(가이드 평가)맞는 용도
클로드·GPT-5 등 상위 API높음매우 좋음실제 업무
GLM-5, MiniMax M2.7낮음~중간매우 좋음가성비 업무
내 PC의 Gemma·Qwen (Ollama)무료좋음오프라인 코딩
내 PC의 작은 모델 (80억 개 이하)무료나쁨대화 정도

모델 종류별 도구 호출 능력 비교 ▲ 모델 종류별 도구 호출 능력 · 출처: Hermes Atlas 가이드의 평가(제3자 의견, 2026년 10월 확인)

도구 호출이란 AI가 파일을 열고 명령을 실행하는 능력입니다. 이게 약하면 에이전트는 일을 하다 멈출 수 있어요. 같은 가이드는 80억 개 이하 작은 로컬 모델과 오래된 모델을 "거의 항상 잘못된 기본값"이라고 평가합니다.

이 등급은 가이드 작성자의 의견입니다. 공식 성능 시험 결과가 아니고, 모델이 새로 나오면 순위도 달라질 수 있습니다. 저희가 모델별로 직접 비교해 본 것도 아닙니다. 그러니 표는 출발점으로만 보세요. 무료 모델로 시작해도 괜찮고, 결과가 기대에 못 미치면 두뇌부터 바꿔서 같은 일을 다시 시켜 보시면 됩니다.

도입 조건 한눈에 보기: 사양·비용·한계

솔직히 공식 설치 문서에는 RAM·저장공간 최소 사양이 적혀 있지 않습니다. 확인되는 건 지원 환경뿐이에요. 리눅스, 윈도우, WSL2, 애플 실리콘 맥을 지원하고 인텔 맥은 지원하지 않습니다. 그래서 아래 표의 사양 칸은 "공식 최소 사양 미공개"로 적었습니다.

운영 방식필요 사양·전제비용 기준장점·한계
헤르메스 프로그램만 설치 (모든 방식 공통)지원 환경: 리눅스·윈도우·WSL2·애플 실리콘 맥(인텔 맥 미지원). RAM·저장공간은 공식 최소 사양 미공개프로그램은 MIT 라이선스로 무료장점: 스킬 파일을 직접 열어 볼 수 있음. 한계: 이것만으로는 AI 두뇌가 없어 일을 못 함
외부 API 모델 연결 (상위 클로드·GPT 등)공식 최소 사양 미공개. 모델 업체의 API 키와 인터넷 연결 필요쓴 만큼 업체에 지불. 요금과 모델 구성이 바뀔 수 있어 사용량에 따라 달라짐. Hermes Atlas는 무료~월 100달러 이상으로 추정(제3자 추정)장점: Atlas는 도구 호출 능력을 "매우 좋음"으로 평가(제3자 의견). 한계: 월 비용을 미리 못 박기 어렵고, 작업 내용이 해당 업체로 전달되니 약관 확인 필요
내 PC의 로컬 모델 (Ollama로 Gemma·Qwen 등)공식 최소 사양 미공개. 모델 크기에 따라 필요한 PC 성능이 달라져 직접 시험 필요모델 사용료는 없음. PC 구입비·전기료는 별도이고 사양에 따라 달라짐장점: 외부 업체로 데이터를 보내지 않아도 됨. 한계: Atlas는 도구 호출을 "좋음"으로 평가(제3자 의견)하며, 속도는 PC 성능에 좌우됨
내 PC의 작은 모델 (80억 개 이하)공식 최소 사양 미공개모델 사용료 없음한계: Atlas는 도구 호출을 "나쁨"으로 보고 "거의 항상 잘못된 기본값"이라고 평가(제3자 의견). 업무 자동화용으로는 권하지 않음

표의 모델 평가와 비용 폭은 Hermes Atlas 가이드의 의견·추정이고, 헤르메스 공식 자료가 아닙니다. API 요금과 모델 성능은 수시로 바뀌니 도입 직전에 각 업체의 요금 안내를 다시 확인하세요. 최소 사양이 문서에 없으니 "일반 사무용 PC면 충분하다"고 단정하기도 어렵습니다. 외부 API 방식이 PC 부담은 가장 적을 것으로 보이지만, 내 PC에서 모델까지 돌리려면 사양과 속도를 따로 시험해 봐야 합니다.

클로드 코드와는 무엇이 다른가요

Hermes Atlas 가이드는 두 도구의 범위를 이렇게 나눕니다. 헤르메스는 세션을 넘어 이어지는 자율 업무, 클로드 코드는 코드 저장소 안에서 하는 개발 작업이라는 구분이에요. 이 비교도 가이드의 해석입니다. 헤르메스는 공식 저장소에 텔레그램·슬랙 등 메신저 연동이 명시돼 있어서, 메신저로 일을 받고 보고받는 반복 업무에는 후보가 될 만합니다. 프로그램을 만드는 일이 주 업무라면 클로드 코드를 함께 견주어 보세요. 어느 쪽이 낫다는 결론은 회사 업무로 직접 시험해 보고 내리시는 게 정확합니다.

VISIONC 마스코트

'전부 허용' 버튼은 누르지 마세요

두 번째 함정은 더 위험합니다. 에이전트는 사람 손을 빌리지 않고 명령을 실행하는 프로그램입니다. 그래서 헤르메스에는 위험한 명령을 실행하기 전에 사람에게 허락을 구하는 장치가 있습니다.

공식 보안 문서의 설정은 세 가지입니다. ~/.hermes/config.yaml의 approvals.mode 값으로 고릅니다.

승인 모드 세 가지 비교 ▲ 헤르메스 승인 모드 · 출처: Hermes Agent 공식 보안 문서

기본값은 smart입니다. 다른 AI가 위험도를 따져서 안전한 명령만 알아서 통과시킵니다. manual은 위험한 명령마다 사람에게 묻습니다. 마지막 off는 모든 승인 검사를 끄는 모드로, 공식 문서도 "--yolo로 실행하는 것과 같다"고 적습니다.

왜 끄면 안 되는지

개발자 사이먼 윌리슨은 AI 에이전트가 위험해지는 조건을 세 가지로 정리했습니다. 내 비공개 데이터에 접근할 수 있고, 믿을 수 없는 콘텐츠를 읽으며, 바깥과 통신할 수 있는 경우입니다.

"If your agent combines these three features, an attacker can easily trick it into accessing your private data and sending it to that attacker." (이 세 가지를 모두 가진 에이전트는 공격자가 쉽게 속여 내 데이터를 빼 갈 수 있다) — Simon Willison, 'The lethal trifecta'(2025년 6월)

직원들이 받은 고객 메일을 읽고, 거래처 폴더를 열고, 메신저로 답장까지 하는 에이전트라면 세 가지를 모두 갖춘 셈입니다. 메일 본문 속에 숨은 지시문 한 줄이 에이전트를 움직일 수 있어요. 이때 승인 단계가 마지막 안전핀입니다.

VISIONC 마스코트

우리 회사에는 이렇게 붙입니다

가상의 사례로 보겠습니다. 직원 6명인 금형 부품 도매업체가 있습니다. 담당자는 매일 아침 발주 메일 20통을 열어 엑셀 재고표와 맞춰 봅니다. 30분이 걸려요.

이 일을 헤르메스에 맡기는 순서는 이렇습니다. 처음 일주일은 읽기만 시킵니다. 발주 메일 내용을 요약하고, 재고표를 대조해 부족한 품목만 짚게 하는 겁니다. 결과는 회사 메신저(텔레그램·슬랙 등 공식 지원 목록에 있습니다)로 받습니다. 파일을 고치거나 메일을 보내는 일은 아직 맡기지 않습니다.

그동안 에이전트가 만든 스킬 메모는 사람이 열어서 맞는지 확인합니다. 2주쯤 지나 메모가 믿을 만해지면 그때 초안 작성을 맡깁니다. 발송은 끝까지 사람이 누릅니다.

회사 문서와 엑셀 연결 정도까지는 직접 해 볼 수 있습니다. 기존 업무 시스템(ERP 등)과의 연동이나 권한 설계는 얘기가 달라집니다. 거기부터는 전문가와 같이 보는 편이 안전해요.

비젼솔루션은 이렇게 봅니다

AI 에이전트 도입에서 먼저 따질 건 권한입니다. 새 직원에게 첫날부터 공동 계좌 비밀번호를 주는 사장님은 없습니다. 에이전트도 같아요. 읽기 권한에서 시작해 믿음이 쌓이면 한 칸씩 넓히는 순서가 가장 비용이 적게 듭니다. 승인 창이 귀찮다고 느껴진다면 그건 아직 맡길 만큼 검증되지 않았다는 신호라고 봅니다.

오늘 해 볼 수 있는 5단계

준비물은 윈도우 PC나 애플 실리콘 맥, 그리고 사용할 AI 모델의 연결 정보(API 키)입니다.

  1. 설치 스크립트를 먼저 읽습니다. 공식 설치 명령은 인터넷에서 받은 스크립트를 바로 실행하는 방식입니다. 앞서 본 위험 패턴과 같은 모양이니, 파일로 받아 훑어본 뒤 실행하세요.
curl -fsSL https://hermes-agent.nousresearch.com/install.sh -o install.sh
less install.sh
bash install.sh
  1. 윈도우라면 PowerShell에서 공식 명령 iex (irm https://hermes-agent.nousresearch.com/install.ps1)을 쓰되, 마찬가지로 주소를 먼저 확인합니다.
  1. 두뇌를 고릅니다. 터미널을 다시 열고 아래 명령을 입력하세요. 첫 주말에는 80억 개 이하 작은 모델을 피하는 게 좋습니다.
hermes model
  1. 승인 모드를 manual로 바꾸고, 스킬을 만들거나 고칠 때도 허락을 받도록 설정합니다. ~/.hermes/config.yaml을 열어 아래처럼 고치세요. 두 번째 항목은 공식 스킬 문서가 안내하는 설정이며, 기본값은 false(에이전트가 자유롭게 씀)입니다.
approvals:
  mode: manual
skills:
  write_approval: true
  1. 읽기 업무로 시작합니다. hermes를 실행하고 이렇게 입력해 보세요.
다운로드 폴더의 발주서_10월.xlsx를 읽고, 재고가 10개 미만인 품목만 표로 정리해 줘. 파일은 절대 수정하지 마.

일이 끝나면 /skills pending을 입력해 에이전트가 만들거나 고치려는 스킬 목록을 확인하세요. /skills diff <번호>로 바뀐 부분을 보고, 괜찮으면 /skills approve <번호>, 이상하면 /skills reject <번호>를 입력하면 됩니다.

자주 묻는 질문

Q. 정말 한 푼도 안 드나요?

프로그램은 MIT 라이선스로 무료입니다. 다만 상위 AI 모델을 쓰면 API 사용료가 붙습니다. Hermes Atlas 가이드는 무료 자체 호스팅부터 월 100달러 이상까지 폭이 넓다고 설명하는데, 어디까지나 가이드의 추정이고 쓰는 양과 모델에 따라 크게 달라집니다.

Q. 스킬이 잘못 쌓이면 어떡하죠?

스킬은 폴더 안의 문서 파일이라 직접 열어 고치거나 지울 수 있습니다. 주의할 점이 있어요. 공식 문서는 "에이전트는 어떤 스킬이든 수정하거나 삭제할 수 있다"고 밝힙니다. 기본 설정에서는 에이전트가 스킬을 자유롭게 씁니다. 사람이 고친 스킬이 지켜지는 건 헤르메스를 업데이트할 때 기본 제공 스킬이 덮어써지지 않는 경우이고, 에이전트의 수정은 막아 주지 않습니다. 그래서 위 4단계의 skills.write_approval: true를 켜 두는 게 안전합니다. 바뀐 내용은 승인 전에 확인할 수 있고, 거절하면 반영되지 않습니다.

공식 저장소는 github.com/NousResearch/hermes-agent, 안내 문서는 hermes-agent.nousresearch.com입니다.

VISIONC 마스코트

이 글이 도움이 되셨나요? AI 궁금해하는 분 계시면 공유해 주세요. 댓글로 질문하시면 성심껏 답변드릴게요!

에이전트 권한 설계가 막막하다면 (주)비젼솔루션 무료 상담으로 편하게 물어보세요. 부담 없습니다.

우리 회사도 이렇게 할 수 있을까요?

무료 상담을 통해 현재 상황에 맞는 솔루션을 제안해드립니다.