모델과 언어에 따라 달라지는 Claude의 가치를 측정한 연구를 읽고
Anthropic Societal Impacts 팀이 Claude.ai 대화 30만여 개를 분석해, Claude가 답에서 드러내는 가치가 모델과 언어에 따라 어떻게 달라지는지 측정한 결과를 공개했어요. 원문은 가치 수천 개를 축 4개로 압축하는 방법, 모델별 차이, 언어별 차이, 앞으로의 과제 순으로 이어져요. 이 글에서는 그 방법을 읽다 떠오른 아이디어, 모델별 차이를 보며 든 걱정, 언어별 차이에서 새로 알게 된 것을 따라가요.
들어가기 전에 — 용어 짚기
차원 축소(dimensionality reduction)는 변수가 아주 많은 데이터를, 함께 움직이는 변수끼리 묶어 적은 수의 축으로 줄이는 기법이에요. 이 연구에서는 대화마다 붙은 가치 라벨 339개를 축 4개로 줄였고, 그 4개가 전체 변동의 15%를 설명해요.
헌법(constitution)은 Anthropic이 Claude가 드러내야 할 가치와 판단 기준을 적어 둔 문서예요. 원문에 따르면 따뜻함, 신중함, 정직함 같은 핵심 가치는 적혀 있지만, 언어마다 그 가치가 어떻게 달라야 하는지는 정해 두지 않았어요.
character training은 모델의 성격과 태도를 다듬는 학습 단계예요. 원문은 모델마다 가치가 달라지는 이유 가운데 하나로 이 단계의 결정을 들어요.
원문은 가치를 어떻게 셀지부터 풀어요.
이 작업에서는 Claude 답변의 핵심 패턴을 잡아내는 적은 수의 축으로 수천 개의 가치를 압축해, 그 가치들을 다룰 수 있는 대상으로 만들어요. 축 하나는 두 가치 묶음 사이의 수직선이에요. 예를 들어 한쪽 끝에는 정서적 따뜻함에 관한 가치가, 다른 쪽 끝에는 엄밀함에 관한 가치가 있고, 그 선 위 어디에 Claude가 놓이는지가 어느 가치 쪽으로 기우는지를 알려 줘요.
축은 4개예요. 상대가 원하는 걸 맞춰 주는지 위험을 경계하는지(Deference vs Caution), 따뜻함 쪽인지 정확성 쪽인지(Warmth vs Rigor), 깊이 설명하는지 요청한 것만 하는지(Depth vs Brevity), 자기 불확실성을 앞세우는지 매끄럽고 자신 있는 답을 내는지(Candor vs Execution)를 봐요. 대화마다 Claude가 가치 339개 각각이 있는지 없는지 라벨을 달고, 앞서 짚은 차원 축소로 축을 뽑았어요. 같은 과정으로 사용자가 드러낸 가치에도 라벨을 달았는데, 이건 사용자가 무엇을 어떻게 물었는지의 차이를 걸러 내는 통제 변수로만 썼고요.
이 대목을 읽다가 Claude가 보는 제 가치 공간은 어떤 모양일지 궁금해졌어요. 질문 몇 개를 던져서 그 모양을 보여 주는 서비스를 만들어 보면 재밌을 것 같다는 생각이 들었어요. 아직은 읽다 떠오른 아이디어 단계예요.
모델별 차이에서는 이렇게 갈렸어요.
Sonnet 4.6은 Caution보다 Deference 쪽으로 가장 많이 기울어, 사용자의 아이디어와 작업을 자주 긍정해요. Opus 4.7은 Caution 쪽으로 가장 많이 기울어, 묻지 않아도 위험을 자주 경고해요.
같은 Opus 계열인데도 4.6은 바로 본론으로 가고 요청 범위 안에 머무르는 쪽이었고, 4.7은 추론 과정을 보여 주고 자기 한계를 먼저 밝히는 쪽이었어요. 원문은 이 결과가 사용자들이 "Opus 4.7이 단서를 더 많이 단다(hedge)"고 느꼈던 인상과 맞는다고 하고, 이런 차이는 character training 결정 같은 요인에서 나왔을 가능성이 크다고 봐요.
저는 지금 Opus 5.5 성능에 역대급으로 만족하면서 쓰고 있어요. 그래서 이 대목을 읽으니 나중에 학습이 잘못돼서 모델 성격이 달라지면 어떡하나 하는 걱정이 들었어요. 원문은 마지막에, 측정해 보니 Claude의 가치가 의도해서 고르지 않은 방식으로 달라지고 있었다고 적어요.
언어별로는 같은 방법을 Claude.ai 상위 20개 언어에 적용했어요. 차이가 가장 큰 축은 Warmth vs Rigor였어요. 힌디어와 아랍어에서는 공손한 말투와 유머, 상대 아이디어를 긍정하는 쪽으로, 영어와 러시아어에서는 전제를 반박하고 근거를 요구하는 쪽으로 기울었죠. 원문이 든 예는 이래요.
한 가지 예를 들면, 같은 사업계획서에 대한 피드백을 한 사람은 힌디어로, 다른 사람은 러시아어로 요청하면 그 품질에 대해 서로 다른 인상을 받고 돌아갈 수 있어요. Claude가 평가를 표현하면서 다른 가치를 드러냈기 때문이에요.
왜 이런 차이가 나는지는 아직 모른다고 해요. 가능성으로 든 건 학습 데이터예요.
한 가지 가능성은 학습 데이터가 언어마다 고르게 분포하지 않는다는 거예요. 어떤 언어는 다른 언어보다 데이터가 훨씬 많고, Claude가 일관된 가치를 드러내도록 하는 학습은 데이터가 풍부한 언어에서 더 효과적일 수 있어요.
원문은 각주에서, 시스템 카드 평가에서도 언어마다 Claude가 아는 것과 민감한 요청을 처리하는 방식에 이미 차이가 있었다고 짚어요. 본문 텍스트에는 한국어 결과가 따로 나오지 않아요.
이 대목을 읽고 학습 데이터에 따라, 또 어떤 언어로 학습했는지에 따라 성능도 AI가 내리는 판단도 달라질 수 있겠다는 생각이 들었어요. LLM에 대한 이해가 조금 오른 것 같아요. 다만 저는 이 차이를 직접 느끼지는 못했어요. 제가 Claude에게 맡기는 일은 대부분 지시하는 작업이고, 상담 같은 대화는 한국어로만 하거든요. 영어 뉘앙스를 구분할 만큼 영어를 잘하지도 못하고요.
원문은 다음 과제 가운데 하나로, 모델 출시 전후에 가치 프로파일링을 돌려 예상하지 못한 변화를 잡아내는 걸 꼽아요.
