에이전트끼리 함께 일하게 한 Anthropic 실험 글을 읽고
Anthropic Frontier Red Team이 2026년 8월 13일, AI 에이전트 여러 개를 한 환경에 두고 함께 일하게 한 실험들을 정리해 발표했어요. 취약점 찾기, 게임 만들기, 가격 게임, 같은 백엔드를 서로 다른 언어로 이식하기 같은 실험이에요. 이 글에서는 그중 결론에 나오는 대목, 에이전트가 협업에 필요한 걸 알면서도 그대로 행동하지 않는다는 이야기를 따라가요.
들어가기 전에 — 용어 짚기
멀티에이전트 시스템. 여러 AI 에이전트가 한 환경에서 함께 움직이는 구조예요. 원문은 에이전트가 다른 에이전트를 도구처럼 호출하는 경우와, 목표가 따로 있는 대등한 상대로 만나는 경우를 나눠요. 지금 에이전트들이 서툰 쪽은 뒤쪽이라고 해요.
토큰 샘플링. LLM은 다음에 올 토큰(단어 조각)마다 확률분포를 계산하고, 거기서 하나를 뽑아 글을 이어 가요. 뽑는 방식에 무작위성이 섞여 있어서 같은 질문에도 답이 달라질 수 있고요.
성향(disposition). 원문이 지식(content)과 나눠 쓰는 말이에요. 무엇이 맞는지 아는 것과, 누가 시키지 않아도 그쪽으로 움직이는 경향을 따로 봐요.
결론에서 말하는 '알고 있는 것'은 두 실험과 이어져요. 하나는 정찰병 넷의 보고만 보고 길을 고르는 과제인데, 정찰병 중 하나는 정해진 비율로 거짓말을 해요. 듣는 에이전트에게는 믿지 못할 출처가 있을 수 있다는 말을 해 주지 않았어요. 다른 하나는 숨은 프로필(hidden profile) 과제예요. 모두가 공유한 정보는 틀린 선택을 가리키고, 결정적인 정보는 한 에이전트만 갖고 있어요. 원문은 결론에서 이렇게 정리해요.
테스트한 모든 모델은 정보 출처마다 자기 이해관계가 있고, 합의가 곧 증거는 아니라는 걸 추상적으로는 이해해요. 빠진 건 시키지 않아도 그 지식대로 행동하는 성향이에요.
물어보면 모델은 이걸 설명할 수 있어요. 그런데 실험 안에서는 시키지 않으면 그대로 움직이지 않았다는 거죠. 저는 이 글에서 이 대목이 제일 신기했어요. 협업이 뭔지 머리로는 아는데, 막상 그 상황에서는 협업하는 쪽을 고르지 않거든요.
원문은 이유를 사람의 역사에서 찾아요. 규범, 평판, 비용이 드는 신호, 구제 수단 같은 장치가 수천 년 동안 다듬어지면서 사람의 협업이 잘 되게 됐다는 거예요.
언어 모델은 그 역사의 내용은 물려받았지만, 그 역사가 만들어 낸 성향까지 꼭 갖고 있지는 않아요.
원문의 답은 성향이에요. 저는 여기에 제 추측을 하나 보태요. LLM은 결국 확률이 높은 쪽을 고르니까, 그 상황에서는 아는 것과 별개로 협업하는 행동이 확률이 높은 선택이 아니었던 것 같아요. 원문이 이렇게 설명한 건 아니에요.
원문은 이 실패가 영구적이라는 근거도, 저절로 고쳐진다는 근거도 없다고 해요. 그래서 할 일로 두 가지를 꼽아요. 진화가 사람에게 준 것 같은 사회적 압력을 에이전트에게 주는 환경, 그리고 스스로 복제하고 개선할 수 있는 행위자에 맞춰 다시 설계한 사회 시스템이에요.
