하이쿠 기본 모델 논쟁, 답답함의 진짜 원인은 지시였다

클코단에서 하이쿠(Haiku)를 기본 모델로 써봤다는 후기가 나왔다. 응답이 답답하고 의도를 잘 못 읽는다는 체감이었다. 같은 질문인데 소넷(Sonnet)이나 오퍼스(Opus)로 바꾸면 결과가 달라진다는 경험도 뒤따랐다. 모델 등급 차이가 실재하는 건 맞지만, 그 차이를 가르는 진짜 변수가 성능인지 지시 방식인지는 따로 확인할 필요가 있다. 하이쿠·소넷·오퍼스·페이블(Fable) 4단 체계가 실제로 무엇을 다르게 하는지, 그리고 목적만 던져도 되는 순간과 지시를 세세히 세워야 하는 순간을 어떻게 가르는지를 짚어본다.

하이쿠 4.5는 정말 '근접 프론티어'인가

앤트로픽은 2025년 10월 하이쿠 4.5를 공개하면서 코딩·추론·컴퓨터 사용 전반에서 소넷4 수준의 성능을 낸다고 밝혔다. SWE-bench Verified에서 73% 이상을 기록해 세계 최상위권 코딩 모델 대열에 든다는 설명도 붙었다. 속도는 두 배, 비용은 소넷4.5의 3분의 1이라는 수치가 함께 제시됐다.

문제는 비교 대상이다.

하이쿠4.5가 따라잡은 건 한 세대 전 플래그십인 소넷4이지, 지금 최상위 모델인 소넷5나 오퍼스5가 아니다. 2026년 8월 기준 가격 체계는 하이쿠4.5가 입력 100만 토큰당 1달러·출력 5달러, 소넷5가 2달러·10달러, 오퍼스5가 5달러·25달러, 최상위 페이블5가 10달러·50달러 선으로 알려져 있다. 컨텍스트 창도 갈린다. 소넷·오퍼스·페이블은 100만 토큰까지 받지만, 하이쿠는 20만 토큰에서 끊긴다. 값싸고 빠른 대신, 다층 추론과 긴 맥락 유지가 필요한 작업에서는 한 단계 위 모델과 체감 격차가 벌어진다는 뜻이다.

체감되는 '답답함'은 어디서 오나

성능 격차만으로 설명되지 않는 부분도 있다. 분류·추출·서식 변환·라우팅처럼 정답이 명확한 작업에서는 하이쿠가 적합하다는 평가가 있다. 반면 여러 제약을 동시에 지키면서 다단계로 진행하는 작업에서는 소넷이 더 적합하다는 평가가 있다.

옐로우닷에이아이(Yellow.ai) 연구팀이 2025년 12월 공개한 "The Instruction Gap" 논문은 13개 주요 LLM을 실전 RAG 시나리오에 놓고 지시 준수율을 측정했다. 모델별 위반 건수가 660건에서 1330건까지 두 배 넘게 벌어졌다. 정확도도 0.76에서 0.88 사이로 흩어졌다. 일반 벤치마크에서 우수한 모델이 세부 지시 준수에서는 밀리는 역전 현상도 확인됐다. 지시문이 길어지고 맥락 정보가 늘어날수록, 모델이 중간에 낀 지시를 놓치는 이른바 '중간 실종' 경향도 보고됐다.

다른 연구들은 실패의 상당 부분이 모델의 추론 능력 부족이 아니라 프롬프트 자체의 모호함에서 비롯된다고 짚는다. 목적어와 제약 조건이 불분명한 채로 던져지면, 모델은 그 빈틈을 자기 방식대로 채운다. 모델에 따라 그 빈틈을 채우는 방식이 사용자 기대와 어긋날 수 있다. 실제로 하이쿠 같은 경량 모델을 오래 써본 사람들 사이에서는, 지시를 짧게 던지고 알아서 채워주길 기대했을 때 결과가 크게 갈렸다는 반응이 적지 않게 나온다. 반대로 정형화된 반복 작업에는 하이쿠로도 충분했다는 반응도 함께 존재한다.

클로드 코드 안에서 하이쿠는 이미 쓰이고 있다

클로드 코드는 설정을 건드리지 않아도 하이쿠를 곳곳에 쓴다. 코드 검색만 하는 Explore 서브에이전트는 기본값이 하이쿠다. 파일을 고치지 않고 읽기만 하는 작업이라 속도와 비용을 우선한 설계다. CLAUDE_CODE_SUBAGENT_MODEL 환경변수를 건드리면 위임되는 모든 서브 작업의 모델 등급을 한 번에 바꿀 수 있다. 세션 중에는 /model 명령으로 opus·sonnet·haiku를 즉시 전환할 수도 있다. 이 전환은 세션 한정이라 항구적으로 바꾸려면 설정 파일에 반영해야 한다.

그러니 세션 전체의 기본 모델을 하이쿠로 내리면, 원래도 하이쿠가 맡던 탐색뿐 아니라 코드 작성과 논리 판단까지 저가형 모델로 넘어간다. 체감되는 낙차가 커지는 지점이 여기다. 탐색 작업에서는 티가 안 나던 등급 차이가, 여러 파일을 오가며 제약을 지켜야 하는 작업에서는 그대로 드러난다.

목적만 던질지 지시를 세울지, 모델이 갈림길을 정한다

앤트로픽이 공개한 에이전트 설계 가이드는 이 갈림길에 대해 분명한 입장을 낸다. 목표 기반 프롬프트는 클로드에게 고차원 목적만 건네고 스스로 여러 시간 작업을 이어가게 하는 방식이다. 단계별 지시는 각 행동을 미리 규정해 통제 범위를 좁히는 방식이다. 앤트로픽은 모델이 똑똑할수록 규칙을 일일이 정해주는 프레스크립티브 엔지니어링이 덜 필요하다고 설명한다. 예시를 촘촘히 박아넣기보다, 판단 기준이 되는 원칙과 휴리스틱을 쥐여주는 쪽이 프론티어 모델에는 더 잘 맞는다는 것이다. 장시간 자율 작업을 위한 하니스 설계 문서에서도, 스스로 작업을 평가하게 두기보다 생성과 검증을 분리하는 편이 낫다고 못 박는다.

이 원칙을 뒤집으면 하이쿠처럼 상대적으로 가벼운 모델에 적용할 답도 나온다. 목적만 던지고 알아서 판단하라고 맡기는 방식은 상위 모델일수록 유리하다. 등급이 낮을수록 제약과 순서를 구체적으로 못 박아줘야 결과가 안정된다. 방에서 나온 "명령을 구체적으로 내려야 결과가 안정적"이라는 경험과 "좋은 모델은 불확실성을 스스로 판단해 보완한다"는 관찰이 있다. 이는 앤트로픽이 공식 가이드에서 밝힌 방향과 정확히 겹친다.

하이쿠가 답답했다는 후기는 모델 결함의 증거라기보다, 목적만 던지는 화법을 등급이 낮은 모델에 그대로 쓴 결과에 가깝다. 탐색이나 정형화된 변환처럼 정답이 뚜렷한 일은 하이쿠에 맡긴다. 여러 제약이 얽힌 판단이 필요한 일은 소넷 이상으로 올리거나 지시를 단계별로 풀어써야 한다. 예산이 빠듯한 1인 개발자나 소규모 팀이라면, 모델 등급을 낮추는 결정과 지시를 촘촘하게 바꾸는 결정을 항상 같이 내려야 손해를 줄일 수 있다.