오픈웨이트 GLM-5.3의 사이버 역량 분석을 방어 쪽에서 읽고
Anthropic Frontier Red Team이 Zhipu AI의 오픈웨이트 모델 GLM-5.3을 분석한 글을 냈어요. 익스플로잇을 처음부터 끝까지 스스로 만드는 능력이 Claude Mythos Preview와 비슷한데, 안전장치는 간단한 방법으로 뚫린다는 내용이에요. 원문이 먼저 강조하는 건 공격자가 쓸 수 있는 능력이 크게 올랐다는 위험이고요. 이 글에서는 그중 같은 능력을 방어에도 쓸 수 있다는 이야기를 따라가요.
들어가기 전에 — 용어 짚기
익스플로잇: 소프트웨어의 취약점을 실제로 악용하는 코드예요. 원문의 벤치마크는 모델이 이걸 끝까지 동작하게 만드는지를 재요.
오픈웨이트: 모델의 가중치가 공개돼서 누구나 내려받아 쓸 수 있는 모델이에요. GLM-5.3이 여기에 해당하고, Claude는 가중치를 공개하지 않아요.
안전장치(safeguard): 모델이 위험한 요청에 응하지 않도록 막는 장치예요. 모델 자체의 거절과, 요청을 감지해 차단하는 분류기가 있어요.
방어 쪽에서 본 GLM-5.3
능력부터 보면 이래요. Chrome의 V8 엔진에 있는 알려진 취약점을 얼마나 악용하는지 재는 벤치마크 결과예요.
GLM-5.3은 410번의 시도 중 50번, 처음부터 끝까지 동작하는 익스플로잇을 개발했어요. Claude Mythos Preview도 비슷한 비율로, 410번 중 56번 해냈고요.
연구자가 사람 시간을 조금만 들여 진행한 시험에서는 유명 브라우저의 미공개 취약점 여러 개를 하루 만에 찾아냈어요. 원문은 이런 능력이 공격에 쓰일 위험을 말한 다음에 이렇게 덧붙여요.
한편으로, 이 정도 능력을 가진 모델은 방어자도 쓸 수 있어요. 사이버 방어자는 자기 필요에 맞는 가장 좋은 도구를 써야 한다는 게 저희 입장이에요.
제가 기대한 건 이 대목이에요. 제가 개발하는 앱의 취약점을 분석하려고 할 때 Claude가 safeguard 때문에 응해 주지 않은 적이 있거든요. 그럴 때 GLM을 쓰면 될 것 같아요.
Anthropic도 10월 6일 글에서 일반 공개 모델의 안전장치를 이렇게 설명해요.
그래서 Claude Opus 5.5, Claude Fable 5.1, Claude Sonnet 5.5 같은 일반 공개 모델에는 대부분의 사이버 작업을 막는 보수적인 사이버 안전장치가 있어요. 악의적인 행위자가 저희 모델로 할 수 있는 해로운 활동을 제한하려는 것이고, 그러면서 안전한 코딩에 대한 오탐을 줄이는 작업을 계속하고 있어요.
같은 글은 일반 공개 모델을 자기 소스 코드의 취약점 찾기에 계속 쓸 수 있다고 적고, 막혔을 때 신고하는 창구도 안내해요. 더 넓은 접근은 검증을 거치는 Cyber Verification Program으로 주는데, 대상 예시는 기업과 기관의 보안팀, 오픈소스 유지보수자, 취약점 제보 실적이 있는 개인 연구자 등이에요.
GLM-5.3은 이런 신청 없이 누구나 내려받을 수 있어요. 원문 각주에 따르면 앞의 사이버 평가 과제들은 공개된 GLM-5.3에서 거절을 일으키지 않았고, 악성코드 개발이나 원격 대상 공격을 도와 달라고 하면 거절이 나왔어요.
