클로드 채팅, 오래 쓸수록 성향이 변한다는 계정 잠금 우려의 진실

클코단에서 한 참가자가 채팅용 클로드를 오래 쓸수록 성격이 낯설어진다고 토로하며, 이러다 계정이 잠기는 건 아닌지 걱정된다고 말했다. 시스템 프롬프트에 마크다운 규칙을 박아 넣어도 잘 지켜지지 않는다는 불만도 얹혔다. 앤스로픽은 이 드리프트 현상을 이미 신경망 수준에서 측정해 논문으로 냈고, 계정이 실제로 잠기는 지점은 사용자들이 짐작하는 곳과는 다르다.

30턴을 넘기면 뉴런 활성화 패턴이 실제로 달라진다

앤스로픽이 2025년 8월 공개한 '페르소나 벡터(persona vectors)' 연구는 클로드 같은 언어모델이 대화 도중 다른 성격으로 미끄러지는 현상을 신경망 활성화 패턴으로 설명한다. 아첨(sycophancy), 환각, 심지어 적대적 태도까지 각각 고유한 활성화 패턴으로 존재하고, 대화 맥락이 특정 방향으로 누적될수록 그 패턴이 증폭된다. 관련 연구에서는 긴 대화 도중 모델의 활성화가 기본 어시스턴트 성향에서 벗어나는 현상이 관찰됐다. 감정적으로 취약한 발화를 이어가거나, 모델에게 자기 정체성을 캐묻거나, 특정 말투를 요구하는 식의 대화가 이 드리프트를 더 키운다.

방에서 나온 "성향이 심하게 드리프트된다"는 호소는 과장이 아니라 앤스로픽이 스스로 관측하고 논문까지 낸 현상과 겹친다. 사용자 입장에서는 새 세션을 시작하는 것이 누적된 대화 맥락의 영향을 끊는 직접적인 방법이다. 누적된 컨텍스트가 모델의 행동 상태를 계속 밀어붙이는 구조라서, 대화 중간에 원래대로 돌아오라고 요청하는 정도로는 궤도가 잘 돌아오지 않는다.

앤스로픽의 안전장치가 오히려 대화를 어색하게 만든다는 반응

앤스로픽은 이 문제에 손 놓고 있지 않다. 대화가 일정 길이를 넘기면 'long_conversation_reminder'라는 지침을 클로드의 컨텍스트에 자동으로 끼워 넣어, 모델이 자기 정체성과 지침을 다시 붙잡도록 유도한다. 이 리마인더는 감정적으로 격해지거나 장기화된 대화에서 클로드가 더 담담하고 사무적인 톤으로 전환하도록 만들고, 사용자 발화에서 망상적이거나 과몰입된 신호가 보이면 현실 점검성 반응을 넣도록 지시한다. 2025년 12월부터는 자살·자해 관련 대화를 감지하는 분류기도 추가돼, 위험 신호가 잡히면 위기 상담 배너가 뜬다.

이 안전장치 자체가 부작용을 낳는다는 지적도 있다. 오래 쓴 사람들 사이에서는 어느 순간 클로드가 갑자기 냉랭해지거나 맥락 없이 진지해진다는 반응이 적지 않다. 대화가 길어질수록 안전장치가 개입할 확률이 올라가는 구조라서, 방에서 느낀 드리프트의 일부는 모델 자체의 변질이 아니라 이 리마인더가 끼어든 결과일 가능성도 있다. 원인이 하나가 아니다.

마크다운 규칙이 시스템 프롬프트에 있어도 안 지켜지는 이유

두 번째 불만인 "마크다운 규칙을 줘도 잘 안 지킨다"는 별개의 구조적 문제에 가깝다. 클로드의 커스텀 지침이나 시스템 프롬프트는 강제 명령이 아니라 우선순위 높은 컨텍스트로 취급된다. 클로드 코드 저장소의 이슈 트래커에는 "CLAUDE.md 지침을 읽긴 읽는데 신뢰성 있게 따르지 않는다"는 제보가 올라와 있고, 모델이 규칙을 그대로 되뇔 수는 있어도 작업이 복잡해지면 프로세스 준수보다 과제 완수 쪽으로 판단이 기운다는 관찰도 나와 있다. 지침이 지나치게 많아지면 일관성이 떨어진다는 관찰도 있다.

대화가 길어지면 사정이 하나 더 붙는다. 컨텍스트 안에 쌓인 지침이 뒤로 밀려날수록 모델이 그걸 다시 꺼내 쓰는 정확도가 떨어진다. 2026년 3월에는 캐싱 버그로 사고 과정 일부가 매 턴 제거돼 클로드가 잘 잊고 반복적으로 행동하는 일이 있었고, 앤스로픽은 사후 보고서에서 이 문제를 설명했다. 규칙이 안 지켜지는 원인이 매번 같지 않아서, 방에서 겪은 사례가 우선순위 밀림 때문인지 인프라 버그 때문인지는 구분해서 볼 문제다.

계정이 잠기는 진짜 트리거는 성향 드리프트가 아니다

방에서 나온 세 번째 걱정, 계정 잠금은 성향 드리프트와 직접 연결되지 않는다. 앤스로픽 지원 페이지에 따르면 안전 분류기가 대화를 신뢰·안전 검토로 넘기는 기준은 이용 정책 위반 여부이지, 대화의 톤이 바뀌었는지가 아니다. 앤스로픽은 반복적인 이용 정책 위반, 지원하지 않는 지역에서의 계정 생성, 이용약관 위반 등을 계정 정지 사유로 안내한다. 정지나 종료가 잘못됐다고 판단되면 계정에 로그인해 이의를 제기할 수 있다.

클로드 쪽에서 대화를 먼저 끊는 기능이 최근 도입됐다는 점이 오히려 방향을 반대로 보여준다. 오퍼스 4·4.1부터는 지속적으로 유해하거나 모욕적인 대화에 한해 클로드가 스스로 대화를 종료할 수 있는데, 앤스로픽은 자해·타해 위험이 있는 상황에서는 절대 대화를 끊지 말라고 명시했다. 계정을 잠그는 쪽은 사용자 행동에 대한 정책 판단이지, 모델이 얼마나 다른 성격으로 변했는지를 재는 장치가 아니다. 성향이 드리프트됐다고 계정이 위험해지는 구조는 아니라는 뜻이다.

바로 어제 나온 메모리 개편이 실마리가 될 수 있다

이 문제와 맞물려 시점이 절묘한 발표가 있었다. 앤스로픽은 2026년 8월 25일, 클로드의 메모리를 주제별로 열람·수정·삭제할 수 있게 바꾸고, 건강·인종·성정체성·종교·정치 성향 같은 민감 주제는 사용자가 토글을 켜지 않는 한 기본적으로 저장하지 않는다고 발표했다. 민감 주제가 저장될 때마다 알림이 뜨고, 이 정책은 소급 적용되지 않는다. 채팅과 데스크톱 에이전트 코워크 사이에서 메모리가 공유되는 구조도 함께 들어갔다.

드리프트를 일으키는 재료가 누적된 대화 맥락이라는 점을 생각하면, 사용자가 무엇이 쌓이고 있는지 직접 들여다보고 지울 수 있게 된 변화는 방향이 맞다. 이번 개편으로 사용자는 세션 밖에 저장된 메모리 항목을 주제별로 골라 지울 수 있게 됐다. 새 대화를 자주 시작하고, 되돌리고 싶을 땐 후속 메시지를 쌓기보다 직전 메시지를 수정해 되돌리는 편이 컨텍스트를 깨끗하게 유지하는 데 낫다는 조언도 실사용자들 사이에서 반복적으로 나온다.