회사 밖에서 로컬 LLM 돌리려면 맥스튜디오가 정답일까

사내 제약과 애플의 리프레시가 겹친 시점

회사 사내망에서는 SSH 접속과 외장 저장장치 사용이 막혀 있는 경우가 흔하다. 보안 정책상 어쩔 수 없는 제약이다. 하지만 로컬 LLM을 붙여 개인 에이전트를 상시 돌리고 싶은 개발자에게는 곧바로 "그럼 집에 뭘 두느냐"는 질문으로 이어진다. 맥북과 맥미니, 맥스튜디오 중 무엇으로 여러 에이전트를 24시간 돌릴지 저울질하던 사람들이 있었다. 공교롭게도 애플이 지난 8월 25일 맥스튜디오와 맥미니 라인업을 통째로 교체했다. 그것도 D램 가격이 반년 새 두 배 넘게 뛴 시점에 나온 개편이었다. 지금이 살 때인지 기다릴 때인지부터 다시 따져봐야 하는 상황이 됐다.

사내 제약이 만든 홈서버 수요

회사 안에서는 정책상 로컬 환경을 마음대로 구축하기 어렵다는 경험은 이 커뮤니티에서도 자주 나온다. 접속 권한이 제한된 사내망에서는 로컬 모델을 얹은 개인 에이전트를 상시로 띄워두는 것 자체가 불가능에 가깝다는 이야기였다. 그래서 대안으로 나온 게 집에 별도 장비를 두고 여러 에이전트와 로컬 LLM을 계속 돌리는 방식이다.

이 경우 노트북보다는 켜둔 채로 방치할 수 있는 데스크톱형 맥이 유리하다는 의견이 많았다. 맥북은 배터리와 발열 관리 때문에 상시 구동에 부담이 있고, 맥스튜디오는 낮은 소비전력으로 오래 켜둬도 부담이 적다는 게 실사용 경험의 근거였다.

메모리는 클수록 낫다는 조언도 함께 나왔다. 로컬 LLM은 모델 전체를 메모리에 올려야 돌아간다. 어떤 모델을 얼마나 크게 쓸 수 있느냐가 사실상 유니파이드 메모리 용량으로 결정되는 셈이다. 대략 파라미터 10억 개당 4비트 양자화 기준 0.6GB 안팎이 필요하다고 보면 70B급 모델을 쓰는 데 최소 48GB, 여유 있게 돌리려면 64GB 이상이 필요하다는 계산이 나온다.

하루 전 갈아치워진 맥스튜디오

이 고민이 오가던 바로 다음 날 애플은 맥스튜디오를 M5 맥스와 M5 울트라로 교체했다. 애플 뉴스룸에 따르면 M5 맥스 모델은 18코어 CPU, 최대 40코어 GPU에 메모리 최대 128GB, 대역폭 614GB/s로 2,499달러부터 시작한다. M5 울트라는 처음으로 뉴럴 액셀러레이터를 탑재한 최대 80코어 GPU에 메모리 최대 512GB, 대역폭 1.2TB/s를 지원하며 5,499달러부터다. 애플은 M3 울트라 대비 최대 4.3배 AI 성능 향상을 내세웠다. 다만 512GB 구성은 10월 말에야 출하된다. 사전주문은 8월 25일 시작해 일반 배송은 9월 22일부터다.

같은 날 맥미니도 M6와 M5 프로로 바뀌었다. 기본 M6는 뉴럴 엔진이 강화됐지만 메모리는 32GB가 상한이라 70B급 모델은 애초에 후보에서 빠진다. 반면 M5 프로는 최대 64GB까지 올릴 수 있고 대역폭도 307GB/s다. "로컬 AI 워크로드"를 겨냥한 구성이라고 애플이 직접 밝혔다. 가격은 24GB 기본형이 1,699달러, 64GB로 올리면 1,000달러가 추가된다.

맥미니로 충분한가, 맥스튜디오가 필요한가

숫자만 보면 M5 프로 맥미니의 64GB 구성도 70B 모델을 메모리에 올릴 수는 있다. 그런데 실제로 써본 사람들 사이에서는 64GB 맥미니에 70B급 모델을 올리면 응답이 눈에 띄게 느려진다는 반응이 적지 않다. 32GB 램에서 30B급 모델을 돌리면 답변 속도가 버겁다는 평가도 흔했다.

메모리 용량이 모델을 "올릴 수 있는지"를 결정한다면, 대역폭은 그 모델이 "쓸 만한 속도로 도는지"에 큰 영향을 준다. 대역폭만 보면 이 지점에서 M5 프로(307GB/s)보다 M5 맥스(614GB/s)나 M5 울트라(1.2TB/s) 쪽이 유리하다.

여러 에이전트를 동시에 띄우는 시나리오에서는 이 차이가 더 벌어진다. 클로드 CLI와 클로드 앱, 다른 챗봇을 동시에 돌리면 맥이 눈에 띄게 느려진다는 경험담이 실사용자들 사이에서 공유된 적 있다. 에이전트 하나마다 컨텍스트와 툴 호출이 쌓이는 구조다. 메모리 여유가 없는 장비에서는 에이전트 수를 늘릴수록 전체 응답이 밀린다. 이 때문에 상시로 여러 에이전트를 돌릴 목적이라면 최소 64GB, 가능하면 그 이상을 갖춘 맥스튜디오 쪽이 안전하다는 쪽으로 의견이 모인다.

로컬 모델이 클로드코드만큼 해주는가

장비보다 더 근본적인 질문은 따로 있다. 로컬에서 돌리는 오픈모델이 평소 쓰던 클라우드 코딩 에이전트만큼 일해주느냐는 것이다. 실사용 후기를 종합하면 답은 엇갈린다.

32B급 코딩 특화 모델은 응답은 빠르지만 코드 품질이 아쉽다는 평가가 많다. 120B급으로 올리면 분석과 수정 품질은 나아지지만 속도가 느려지고, 에이전트처럼 프로젝트 전체를 관리하기는 버겁다는 경험이 나온다. 개별 파일을 하나씩 고치는 용도로 에디터에 연동해 쓰는 정도라면 로컬 모델로도 충분하다는 절충안도 있었다.

반대로 회사 밖에서 로컬로 대형 모델을 굳이 붙잡고 있느니 월 2~4만 원대 구독형 서비스를 쓰는 편이 시간과 정신 건강 모두에 낫다는 반응도 만만치 않다. 로컬 LLM이 프라이버시와 오프라인 사용, API 비용 절감이라는 뚜렷한 이점을 주는 것은 맞다. 다만 그 이점은 사내 보안 정책 때문에 클라우드 도구를 쓸 수 없는 상황과 맞물릴 때 가장 크게 다가온다.

전기료로 보면 답은 명확해진다

성능 논쟁과 별개로 상시 구동 비용은 맥 쪽이 확실히 유리하다. 애플 공식 자료 기준 맥스튜디오의 대기 전력은 구성에 따라 6~13W 수준이고, 로컬 추론 중에도 M 시리즈 모델은 대개 50W 안팎에서 움직인다. 하루 24시간 켜둬도 전기료 부담은 상대적으로 작다는 계산이 많다.

반면 70B급 모델을 RTX 4090 여러 장으로 감당하려면 소비전력이 1,000W를 넘기 일쑤다. 하루 10시간만 돌려도 월 전기료가 100달러를 넘어설 수 있다. 대신 순수 토큰 생성 속도는 RTX 4090 한 장이 M4 맥스보다 앞선다는 벤치마크가 있다. "속도의 4090이냐 용량의 맥이냐"라는 구도는 이번 M5 세대에서도 그대로 이어진다.

지금 사야 하나, 메모리 대란 속에서

문제는 이 판단을 지금 당장 내려야 하느냐다. 국내 반도체 업계 보도에 따르면 2026년 1분기 범용 D램 계약가가 전 분기 대비 93~98% 뛰었다. 64GB DDR5 모듈은 2025년 3분기 255달러에서 2026년 3월 700달러 돌파가 예상되는 수준으로 치솟았다.

이 여파로 애플도 6월에 맥스튜디오 가격을 한 차례 올렸다. 이번 M5 세대에서 M5 울트라 96GB 이하 구성은 아예 사라졌다. 512GB 구성이 나오기까지 두 달을 더 기다려야 한다.

결정은 결국 용도로 좁혀진다. 에디터에 붙여 코드 조각을 다듬는 보조 용도라면 M5 프로 맥미니 64GB로도 버틸 만하다. 반면 여러 에이전트를 겹쳐 돌리며 사내에서 못 하던 작업을 집에서 상시로 이어가려 한다면, 지금 나온 M5 맥스 128GB나 가을 이후 풀리는 M5 울트라 쪽을 봐야 한다는 계산이 선다. 다만 메모리 가격이 계속 오르는 국면에서는 "얼마나 필요한가"보다 "지금 이 가격에 사도 되는가"가 먼저 걸리는 질문이 될 수 있다.