Claude Code 기업 메모리, 문서 30개보다 큐레이션이 먼저다

기업 문서를 Claude Code에 전부 밀어 넣는 방식은 빠르지만 오래 갈수록 답이 흐려지고 권한 관리도 어려워진다. 지금 필요한 질문은 문서가 몇 개인지가 아니다. 어떤 지식을 항상 보여주고 무엇을 필요할 때만 꺼내며 누가 어디까지 읽게 할 것인가다.

문서 30개가 기준은 아니지만 적게 보여줘야 한다

커뮤니티에서는 방대한 회사 자료를 정리하면 핵심 문서가 2~30개로 줄었다는 경험이 공유됐다. 이 범위를 일반 법칙으로 뒷받침하는 학술 연구나 공식 지침은 확인되지 않았다. 질문과 문서 구조, 검색 방식이 달라지면 적정 개수도 달라진다.

다만 적은 정보를 정확히 고르는 방향에는 근거가 있다. Anthropic은 2025년 컨텍스트 엔지니어링을 제한된 창에 들어갈 정보를 선별하고 유지하는 작업으로 설명했다. TACL의 2024년 ‘Lost in the Middle’ 연구도 긴 입력 중간의 관련 정보를 모델이 놓칠 수 있다고 보고했다.

써본 사람들 사이에서도 거대한 지침 파일은 핵심 규칙을 묻히게 한다는 반응이 있다. 낡은 결정과 실패한 접근까지 남기면 에이전트가 예전 경로로 되돌아간다는 불만도 나온다. 문서 수보다 최신성, 중복 제거, 검색 적합도가 먼저다.

소형 LLM 위키는 모델이 아니라 운영 구조다

여기서 소형 LLM 위키는 공식 제품명이 아니다. 원본 문서를 정리하고 작은 색인을 만들고 질의에 맞는 조각만 Claude Code로 보내는 설계 패턴이다. 소형 모델은 분류, 태깅, 초벌 요약에 쓸 수 있지만 지식 원본을 대신하지 않는다.

RAG 원 논문은 생성 모델의 파라미터 기억과 검색 가능한 외부 메모리를 결합했다. 회사 규정이 바뀌면 모델을 다시 학습시키는 대신 문서와 색인을 갱신할 수 있다. 소형 모델의 값은 모든 답을 만드는 데 있지 않고 값싼 전처리를 반복하는 데 있다.

소형 모델이 만든 요약은 승인 전에 원문과 대조한다. 사실이 바뀌면 요약과 임베딩을 함께 다시 만든다. 모델 이름보다 이 갱신 경로가 위키의 신뢰도를 좌우한다.

검색도 무조건 많이 가져오면 안 된다. ICML 2025의 RAGGED 연구는 검색 설정과 모델의 잡음 내성에 따라 문서를 늘린 효과가 달라진다고 밝혔다. Anthropic의 Contextual Retrieval 실험에서는 청크에 짧은 문서 맥락을 붙이고 BM25와 임베딩을 함께 썼을 때 검색 실패가 줄었다.

Claude Code에는 네 층으로 연결한다

먼저 원본을 Markdown으로 표준화한다. 각 문서에 제목, 소유자, 갱신일, 부서, 보안 등급, 원본 URL을 붙인다. 중복본과 만료 문서는 제외한다. 요약마다 근거가 된 원본 위치를 남긴다.

`CLAUDE.md`에는 모든 세션이 알아야 할 규칙과 위키 진입점만 둔다. Anthropic 공식 문서는 파일당 200줄 미만을 권한다. Auto Memory의 `MEMORY.md`도 시작 때 처음 200줄 또는 25KB까지만 읽는다. `MEMORY.md`를 목차로 쓰고 `architecture.md`, `sales-policy.md`, `runbook.md` 같은 주제 파일은 필요할 때 연다.

경로별 지침은 `.claude/rules/`에 나눈다. 반복 절차나 참고 자료는 Skill로 옮긴다. 외부 위키 검색은 MCP 서버로 노출한다. 개인 실험은 `claude mcp add --scope local`로 시작한다. 팀 공유가 필요할 때만 프로젝트의 `.mcp.json`으로 옮긴다.

질문이 들어오면 순서는 단순하다. 메타데이터로 권한 밖 문서를 먼저 버린다. 키워드와 임베딩으로 후보를 찾는다. 재정렬한 소수 청크만 Claude Code에 돌려준다. `/memory`로 저장 내용을 보고 `/context`로 실제 로드 상태를 확인하면 입력이 커지는 지점도 찾을 수 있다.

카테고리 경계는 프롬프트가 아니라 권한이어야 한다

“재무 에이전트는 재무 문서만 본다”는 문장은 행동 지침일 뿐이다. Claude Code 공식 문서도 `CLAUDE.md`를 강제 설정이 아닌 컨텍스트로 규정한다. 보안 경계는 검색 전에 작동해야 한다.

Claude Code의 permissions와 sandbox에서 읽기 경로와 도구를 제한할 수 있다. Subagent는 허용 도구와 권한 모드를 좁힌다. 역할별 MCP 서버도 분리한다. HTTP MCP는 사용자와 리소스에 맞는 인증을 적용한다. 서버가 문서 권한을 다시 확인해야 한다.

벡터 DB의 부서 태그만 믿는 방식도 부족할 수 있다. AWS 보안 지침은 원본 권한 변경이 색인에 늦게 반영될 위험을 지적한다. 민감한 자료는 검색 시점에 원본 시스템 권한을 재검증해야 한다. 조회 기록과 문서 출처를 남겨야 한다.

작은 팀은 정확도보다 갱신 실패를 먼저 측정한다

개인 개발자나 소규모 팀은 거대한 지식 그래프부터 만들 필요가 없다. 핵심 규칙 한 파일, 짧은 `MEMORY.md` 색인, 주제 문서 몇 개, 읽기 전용 MCP 검색이면 시작할 수 있다. 작은 자료 묶음은 전체 입력도 가능하지만 Anthropic은 약 20만 토큰을 넘으면 RAG 같은 확장 방식을 검토하라고 안내한다.

운영 지표는 문서 개수가 아니라 실패 원인을 보여줘야 한다. 정답 문서가 검색됐는지, 만료 문서가 섞였는지, 권한 밖 자료가 후보에 올랐는지 기록한다. 대표 질문 세트를 두고 색인 갱신 전후의 답과 출처를 비교한다.

정답 본문과 접근 가능한 역할도 대표 질문에 함께 기록한다. 검색 실패와 생성 실패를 나누면 어느 층을 고쳐야 할지 드러난다. 정기 점검에서는 사용되지 않은 항목과 오래된 요약을 제거한다.

현장에서는 상시 규칙, 장기 지식, 이번 작업 상태를 분리한 뒤 혼선이 줄었다는 의견이 반복된다. 반드시 지켜야 할 절차는 메모리에 맡기지 않고 훅이나 자동 검사로 옮겼다는 팁도 있다. 좋은 기업 메모리는 많이 기억하는 위키가 아니라, 지금 필요한 사실만 안전하게 꺼내고 틀린 기억을 빨리 버리는 시스템이다.