AX 컨설팅 회사 "조슈아 앤 컴퍼니"를 운영하는 빌더 조쉬가, 직원 6명(본인 포함) 규모의 자기 회사 Slack에 헤르메스 에이전트를 직접 설치하고 한 달간 활용한 실전 후기.
1. 왜 직접 해봐야 했나 — "AX 컨설턴트도 조직부터 바뀌어야 한다"
- 기업들의 AX(AI Transformation)를 컨설팅하는 입장에서, 정작 자기 조직 자체가 AI 네이티브로 바뀌지 않으면 설득력이 없다는 문제의식에서 출발했다.
- 노션 코리아 행사에서 노션 지사장이 제시한 AI 발전 4단계를 인용한다: ① 사고 파트너로서의 AI(단순 질의응답, PPT 생성) ② 비서로서의 AI(회사 맥락 기반 산출물 생성을 돕는 메모리 파트너) ③ 팀원으로서의 AI(아직 많은 조직이 도달하지 못한 단계) ④ 시스템으로서의 AI(모든 의사결정·업무 흐름에 AI가 내재화). 헤르메스 에이전트를 Slack에 팀원으로 들이는 실험은 바로 3단계를 실현해보려는 시도였다.
2. 설치 인프라 — Mac mini보다 Hostinger VPS를 추천하는 이유
- 처음엔 사무실 Mac mini에 로컬로 설치해 테스트했다. 24시간 켜둘 수 있다는 장점은 있지만, 야간 자동 업데이트로 인한 다운타임, 정전, 전기세 부담, 그리고 헤르메스가 스스로 자동 업데이트를 못 해 매번 터미널을 켜서 수동으로 업데이트해야 하는 불편이 있었다.
- 개인용으로는 Mac mini도 괜찮지만, 보안 지식이 부족한 상태에서 회사 공용으로 쓰기엔 구멍이 생길 수 있다고 판단해, **Hostinger VPS(웹서버)**에 도커로 설치하는 방식을 추천한다. 24시간 가동이 안정적이고, OS 업데이트나 정전 변수가 없으며, 저장 공간도 충분하다는 것이 장점.
- 헤르메스의 데스크탑 버전(macOS/Windows)도 있지만, 이는 개인용에 더 적합하고 Slack에서 팀 공용으로 쓰기에는 VPS 방식이 낫다고 설명한다.
3. 헤르메스 에이전트를 만드는 5단계 프로세스
트위터 창업자이자 Block CEO 잭 도시, Y Combinator 등이 강조하는 "AI가 회사의 가정(assumption)을 깨버린다"는 관점을 인용하며, 이를 실현하는 5단계를 제시한다.
- 데이터 모으기(적재): 회사 활동과 노션 등의 데이터를 자동으로 쌓는 시스템을 만드는 것이 출발점.
- 정리하기: 매일 적재된 데이터를 하나의 중앙화된 문서·체계로 정리.
- 도구 세팅: 옵시디언, 깃허브 등 헤르메스와 붙는 도구들을 잘 연결.
- 다듬기: 헤르메스를 챗GPT처럼 단순 질의응답 도구로만 쓰지 말고, 코딩 도구·업무 자동화 도구로도 쓰도록 세팅을 다듬는 단계.
- 자가 학습 환경 세팅: 에이전트가 스스로 계속 나아지는 환경을 만드는 것.
4. 1단계 실전 — 데이터 맥락 모으기
- 노션, Slack, Gmail 등 회사 공용 자산을 헤르메스에 연결하는 것이 최우선이지만, 헤르메스가 연동 도구를 기본으로 잘 지원하지 않아 API 형태로 하나씩 붙여야 하는 불편이 있었다고 솔직히 짚는다.
- "맥락 허브" 개념(다른 회의록 서비스 대표의 노션에서 발견)을 인용한다 — 맥락 허브 하나만 잘 만들어두면 콘텐츠 제작·코딩 등 여러 파생 에이전트를 만들 수 있다는 아이디어.
- 실제로 회사가 적재한 데이터: 고객 이메일·문의·CS를 전부 Slack으로 연동해 메인 채널로 활용, 팀 대화·회의·작업 기록을 빠짐없이 수집.
- GPT 이미지 2.0 API를 연동해 회의록을 이미지 형태로도 만들어 회의 끝나자마자 구성원들이 요약을 시각적으로 받아볼 수 있게 했다 — "텍스트 산더미보다 훨씬 편하더라"는 소감.
- 매일 아침 **데일리 스크럼(조간 회의)**을 하고, **플라우드 노트(Plaud Note)**라는 녹음 카드로 자동 녹음 → 자동으로 Slack과 서버에 회의록이 적재되도록 세팅. 플라우드 노트는 재피어(Zapier) 연동을 지원해 녹음이 끝나면 자동으로 옵시디언·깃허브 등으로 흘러가게 구성했다.
- 노션 대신 옵시디언으로 데이터를 옮기려 노력 중이다 — 노션은 마크다운 문법은 쓸 수 있지만 마크다운 기반 서비스는 아니기 때문.
- 구성원들이 매일 아침 데일리 스탠드업에 오늘 할 일을 적으면 헤르메스가 이를 자동 수집해 자체 데이터로 저장하고, 출퇴근 기록까지 함께 적재.
- G스택(G-Stack)과 G브레인(G-Brain)(YC 대표 Garry Tan이 만든 오픈소스)도 연동했다. G스택은 YC가 정의한 스타트업 SOP·기준을 담은 도구, G브레인은 헤르메스가 더 잘 기억하도록 돕는 고성능 RAG 시스템 구축 도구다. 조쉬는 "지브레인을 탑재한 뒤 사업 멘토가 생긴 느낌"이라고 표현한다.
5. 2단계 실전 — "회사의 뇌" SOP 위키 만들기
- 회사의 뇌는 곧 **SOP(표준 운영 절차서)**라고 정의한다. 많은 조직이 클릭 매뉴얼 수준의 SOP는 있어도, 회사가 어느 방향으로 가고 있고 각 직원이 무슨 일을 하고 있는지를 아우르는 상위 레벨 SOP는 없는 경우가 많다는 문제의식.
- 안드레 카파시가 제시한 "LLM 위키" 개념에서 착안했다 — 아무리 매일 데이터가 쌓여도 AI가 원본 전체를 다 훑는 것은 비효율적이므로, 압축된 문서 한 곳에 필요한 정보를 미리 정리해두면 AI가 훨씬 효과적으로 답변할 수 있다는 것.
- 구성: 회의록·문서 같은 원본 소스를 서버에 쌓고, 이를 "SK 클라이언트는 이런 일을 하고 있다"는 식으로 압축·요약된 문서로 재정리 — 거버넌스와 토큰 효율 양쪽에서 유리하다.
- 헤르메스가 이 SOP 위키를 매일 갱신하며, 매일 저녁 7시 "SOP 업데이트 완료" 알림을 받는다. 이렇게 하면 신입 직원이 들어와도 막힘없이 업무를 인수인계받을 수 있다고 설명한다.
- G스택·G브레인 데이터를 근거로 "현재 사업 방향이 잘 가고 있는지 평가해줘"라고 지시하면 사업 평가 도표까지 이미지로 받아본다 — 받은 피드백 예시: "최종 방향은 좋은데 넓히지 말고 좁혀라."
6. 실전 활용 사례들
- 아침 데일리 태스크 제안: 전날까지의 맥락을 기반으로 오늘 해야 할 일, 마감 임박 업무, 확인 필요 리스크를 요약 이미지로 매일 아침 전달. 초반엔 맥락이 부족해 "이미 알고 있는 내용"이라는 직원 피드백을 받았지만, 데이터가 쌓이면서 품질이 크게 개선됐다 — "대표인 저 스스로 업무 하달을 할 필요가 거의 없어졌다."
- 이메일 자동 응대: 하루 30~50건씩 오는 이메일(광고 요청 다수 포함)에 대해, "일괄 답장 초안 작성해줘"라고 지시하면 회사 맥락에 맞는 답장 초안을 작성해주고, 승인만 하면 일괄 발송. 답장이 필요한 항목을 놓치지 않도록 1일 요약도 제공.
- 셀프 개발 사내 ERP: 프로젝트 관리·휴가 관리 같은 기능을 직원 요구에 따라 헤르메스가 직접 개발해 연동. 견적서·세금계산서 발급도 대화형으로("세금계산서 발급해줘" → 필요 정보 입력 요청 → 즉시 발급) 처리 가능하게 만들었다.
- 카피라이팅/콘텐츠 생성: 축적된 데이터·지식베이스를 토대로 회사 스타일에 맞는 카피라이팅을 추출.
- 회사소개서 자동 최신화: 최신 역량·프로젝트 내용을 반영해 회사소개서를 그때그때 새로 생성.
7. 구성원별 사용 패턴
- 커뮤니티 담당 직원: "네가 도와줄 수 있는 걸 리뷰해줘"처럼 지식 베이스 활용 및 업무 탐색 단계에서 활용.
- 비개발자 PD: 사내 ERP 시스템 유지보수를 대화형으로 위임받아 처리.
- PM: 공용 도구에 기능을 추가하거나 프로젝트 관리가 필요할 때 대화로 요청.
- 가장 적극적 사용자는 개발자로, 매일 데일리 스탠드업마다 에이전트를 직접 호출해 업무 체크·저장까지 스스로 기록.
8. 운영 원칙과 디테일
- 회사 전체 업무를 "사람이 할 일"과 "AI가 할 일"로 구분해 표로 관리하며, AI가 처리하는 영역(브리핑·요약·태스크·자동화)을 점점 넓혀가고 있다. 다만 현장·대인 업무 비중이 높아 AI 중심으로만 사업을 재편하지는 않는다.
- 개선 루프가 핵심이라고 강조한다 — 매일 회의록·할 일·완료 업무를 계속 입력하고, 에이전트에게 "이건 하지 말고 이건 더 잘해달라"고 피드백을 계속 줘야 한다.
- 에이전트와의 대화 알림이 자꾸 울려 방해가 되자, 별도 에이전트 채널을 만들어 알림을 꺼두었다. 또한 DM보다는 공개 채널에서 에이전트와 대화하도록 유도하는 것이 데이터 축적 측면에서 낫다고 조언한다.
9. 한 달 사용 소감과 한계
- 전반적으로 잘 작동하고 있고 계속 나아지고 있다고 평가한다. 팀 전체가 이미 클로드 코드를 일상적으로 쓰는 조직이라 헤르메스 에이전트와 병행 사용 중.
- 한계: 계약처럼 고맥락적인 외부 커뮤니케이션이나 자금·견적서처럼 사람의 검수가 필수인 영역은 여전히 AI에게 맡기기 어렵다. 직원별 AI 리터러시 편차도 존재하지만, 에이전트가 늘 로깅되며 대화하는 걸 보는 것 자체가 직원들의 리터러시를 간접적으로 끌어올리는 효과가 있다고 본다.
- 토큰 비용: 예측은 어렵지만, 사내에서 GPT 100달러짜리 플랜을 쓰고도 아직 초과되거나 부족했다는 이야기는 못 들었다며, 공용 에이전트 운영에 월 100달러 플랜이면 충분히 여유 있다고 평가.
10. 최종 깨달음 3가지
- 헤르메스 에이전트는 소규모·신생 조직에 더 적합하다. 레거시 조직은 데이터 적재 자체가 어렵고 기존 도구·관성을 깨기 힘들기 때문에, AI 네이티브 조직을 만들려면 레거시 없는 작은 조직에서 시작하는 것이 낫다고 권장한다.
- 헤르메스는 AI 코딩 도구가 할 수 있는 일을 거의 다 할 수 있다. 처음엔 단순 지식 질의 시스템처럼 느꼈지만, 영업 메일 자동 발송, PPT/HTML 생성, ERP 개발 연동까지 갈수록 활용 범위가 무궁무진하다는 걸 체감했다.
- 가장 중요한 건 결국 보안·데이터 거버넌스다. 신생 조직이라 비교적 자유롭지만, 고객사 정보는 절대 적재하지 않고, 회의록에 포함된 회사 정보는 걸러내며, 개발자와 함께 2차 인증·이중 보안을 신경 쓰고 있다. 모든 조직에는 데이터 거버넌스와 보안을 전담하는 사람 또는 에이전트가 필요하다고 결론짓는다.
핵심 요약 (20줄)
- AX 컨설팅 회사를 운영하는 빌더 조쉬가 직원 6명 규모의 자기 회사 Slack에 헤르메스 에이전트를 설치해 한 달(720시간) 활용한 실전 후기를 공유한다.
- 노션 코리아 행사에서 제시된 AI 발전 4단계(사고 파트너→비서→팀원→시스템) 중 아직 많은 조직이 도달하지 못한 "팀원으로서의 AI" 단계를 직접 실현해보려는 시도였다.
- Mac mini 로컬 설치는 야간 업데이트·정전·수동 업데이트 불편이 있어, 공용으로는 Hostinger VPS에 도커로 설치하는 방식을 추천한다.
- 헤르메스 에이전트를 만드는 5단계는 데이터 모으기, 정리하기, 도구 세팅, 다듬기, 자가 학습 환경 세팅이다.
- 노션·Slack·Gmail 등 공용 자산을 연동하고, 고객 이메일·CS·팀 대화·회의를 빠짐없이 Slack에 적재하는 것이 출발점이었다.
- GPT 이미지 2.0 API로 회의록을 이미지 형태로 만들어 회의 직후 구성원들이 요약을 시각적으로 받아보게 했다.
- 매일 아침 데일리 스크럼을 플라우드 노트로 자동 녹음해 Zapier를 통해 Slack과 옵시디언·깃허브에 자동 적재하는 시스템을 구축했다.
- Y Combinator 대표 Garry Tan이 만든 G스택과 G브레인을 연동해 YC 기준의 사업 평가와 고성능 RAG 시스템을 구현했다.
- 안드레 카파시의 LLM 위키 개념을 차용해 압축된 SOP 위키를 헤르메스가 매일 갱신하도록 만들었고, 매일 저녁 7시 업데이트 완료 알림을 받는다.
- G스택과 G브레인 데이터를 근거로 사업 방향을 평가시키면 "방향은 좋으니 좁혀라" 같은 구체적 피드백을 이미지로 받아본다.
- 아침마다 맥락 기반 데일리 태스크를 요약 이미지로 제안받는데, 초기엔 품질이 낮았지만 데이터가 쌓이며 크게 개선되어 대표가 업무 하달을 거의 안 해도 되는 수준이 됐다.
- 하루 30~50건 오는 이메일에 대해 헤르메스가 회사 맥락에 맞는 답장 초안을 일괄 작성하고 승인만 하면 발송되는 시스템을 구축했다.
- 프로젝트 관리·휴가 관리 같은 사내 ERP를 헤르메스가 직접 개발했고, 대화형으로 세금계산서·견적서 발급까지 처리한다.
- 카피라이팅과 회사소개서도 축적된 데이터와 지식베이스를 토대로 자동 생성·최신화한다.
- 구성원별로 지식 탐색, ERP 유지보수, 공용 도구 개발, 데일리 스탠드업 자동 기록 등 다양한 방식으로 헤르메스를 활용하고 있으며 개발자가 가장 적극적으로 쓴다.
- 회사 업무를 사람이 할 일과 AI가 할 일로 표로 구분해 AI 처리 영역을 점차 넓혀가고 있지만, 현장·대인 업무는 여전히 사람이 맡는다.
- 매일 피드백을 남기게 해 개선 루프를 계속 돌리는 것이 핵심이며, 알림 방해를 줄이기 위해 별도 에이전트 채널을 만들어 알림을 껐다.
- 계약이나 자금처럼 고맥락·고위험 영역은 여전히 사람의 검수가 필요하고, 직원별 AI 리터러시 편차도 존재하지만 로깅 노출 자체가 리터러시를 끌어올리는 효과가 있다.
- 토큰 비용은 예측이 어렵지만 GPT 100달러 플랜으로도 초과나 부족 없이 운영 중이라고 밝혔다.
- 최종 결론은 헤르메스가 레거시 없는 소규모·신생 조직에 더 적합하고 AI 코딩 도구의 영역을 거의 다 대체할 수 있지만, 결국 가장 중요한 건 보안과 데이터 거버넌스를 전담하는 사람 또는 에이전트가 반드시 필요하다는 것이다.