티스토리 뷰
안녕하세요. 샤니 블로거입니다.
솔직히 이건 예상 밖이었습니다. 저도 매일 Claude와 GPT를 업무에 쓰면서 "중국 AI가 얼마나 따라왔을까?"
막연하게 생각만 했는데, 키미 K3 얘기를 접하고는 잠깐 멈칫했습니다.
GPT-5.6 Sol보다 40~50% 저렴하고, 독립 평가에서 전체 37개 모델 중 2위.
그런데 그 뒤에는 미국 최상위 AI의 답변을 수백만 번 빼내 학습시킨 '적대적 증류'라는 그림자가 드리워져 있었습니다.
키미 K3가 흔든 것 : 성능이 아니라 '수익성'에 대한 믿음
제가 직접 써봤는데, 고성능 AI 모델의 가장 큰 장벽은 사실 성능이 아니라 비용입니다.
문서 요약이나 데이터 정리, 반복적인 스크립트 작업에 매달 꼬박꼬박 빠져나가는 API 비용이 부담스러웠던 건
저만의 얘기가 아닐 겁니다. 그래서 얼마 전 오픈소스 계열 AI를 직접 세팅해 본 적이 있는데,
초기 설정이 좀 번거롭긴 했어도 정형화된 업무에서는 "굳이 최고가 모델을 쓸 필요가 있나?" 싶은 생각이 들었습니다.
중국 문샷 AI가 내놓은 오픈웨이트(Open-weight) 모델 키미 K3는 그 고민을 시장 전체로 확장시켰습니다.
오픈웨이트란?
모델의 가중치(weight), 즉 학습 결과물 자체를 공개하는 방식입니다.
쉽게 말해, 소스코드만 공개하는 게 아니라 '학습이 완료된 두뇌' 자체를 내놓는 것이어서
기업이나 정부가 자체 서버에 설치하고 원하는 용도로 수정할 수 있습니다.
키미 K3의 규모는 매개변수(파라미터) 2조 8,000억 개,
100만 토큰 처리 능력을 갖춘 현재 세계 최대급 오픈웨이트 모델입니다.
여기서 매개변수란? AI 모델이 언어와 개념의 관계를 학습하면서 조정한 수십억 개의 숫자 집합으로,
많을수록 더 복잡하고 정교한 추론이 가능하다고 볼 수 있습니다.
VALLS AI의 종합 평가에서 37개 모델 중 2위, 1위인 앤트로픽의 최신 모델과의 점수 차는 불과 0.4점이었습니다.
가격이 진짜 문제였습니다.
입력·출력 합산 100만 토큰당 약 15달러.
GPT-5.6 Sol 대비 40~50%, Anthropic의 최신 모델 대비 약 70% 저렴한 수준입니다(출처: Anthropic 공식).
이 숫자가 나스닥과 엔비디아, 인텔 주가를 끌어내린 핵심이었습니다.
시장은 단순히 "중국 AI가 잘 만들었네"가 아니라, "그렇다면 미국 빅테크가 천문학적으로 쏟아붓는 AI 투자비가 과연 그만큼의 수익성으로 돌아올까?"라는 질문을 던지기 시작했습니다.
연산 효율화 방식도 주목됩니다.
키미 K3는 MoE(Mixture of Experts) 아키텍처를 활용합니다.
MoE란?
896개의 전문 영역 중 실제 질문 처리에 필요한 16개만 선택적으로 활성화하는 구조입니다.
쉽게 말해, 100명의 전문가 중 지금 이 질문에 딱 맞는 16명만 부르는 방식으로 연산량과 전력 소비를 크게 줄이는 기술입니다.
미국의 반도체 봉쇄가 오히려 중국 기업들에게 극단적인 효율화를 강제한 셈이라는 분석이 나오는 이유입니다.
- 키미 K3 매개변수: 2조 8,000억 개 / 처리 용량 : 100만 토큰
- VALLS AI 종합 평가 37개 모델 중 2위, 1위와 격차 0.4점
- 가격 : 100만 토큰당 약 15달러 — GPT-5.6 Sol 대비 40~50% 저렴
- MoE 아키텍처로 896개 전문 영역 중 16개만 활성화, 연산 효율 극대화
- 이달 말 가중치 공개 예정 — 기업·정부 자체 서버 설치 가능
적대적 증류: 훔쳐 배운 모델이 안전할 수 있을까
제 경험상 이건 좀 다릅니다. AI 기술 추격을 단순히 "효율화를 잘했다"로만 보는 시각도 있는데,
실제로 들여다보면 그 이면에 '적대적 증류(Adversarial Distillation)'라는 방식이 핵심 역할을 했다는 점을 외면하기 어렵습니다.
증류(Distillation)란 원래 뛰어난 대형 모델을 '선생님'으로 삼아, 그 답변 패턴을 작은 모델에 반복 학습시키는 기술입니다. 여기서 적대적(Adversarial)이라는 수식어가 붙으면, 상대방 기업의 동의 없이 수백만 번의 질의를 던져 그 응답을 무단으로 가져가는 방식이 됩니다. 선생님의 두뇌 전체를 복사하는 건 아니지만, 막대한 비용과 시간이 들어간 문제 해결 방식과 추론 패턴을 압축해서 배울 수 있습니다.
2025년 2월, 앤트로픽은 이 의혹을 실명과 숫자로 공개 발표했습니다.
딥시크(DeepSeek), 문샷 AI(Moonshot AI), 미니맥스(Minimax)가
약 24,000개의 허위 계정을 동원해 Claude와 100만 회 이상 문답을 주고받으며
핵심 추론 능력과 코딩 기술을 흡수했다는 내용이었습니다(출처: Anthropic 공식 발표).
미니맥스가 1,300만 회로 가장 많았고, 문샷 AI는 340만 회였습니다. 이번에 시장을 뒤흔든 키미 K3를 만든 바로 그 회사입니다.
앤트로픽이 특정한 표적 영역은 에이전트 추론, 도구 사용, 코딩, 컴퓨터 조작 능력이었습니다.
공교롭게도 키미 K3가 내세우는 강점과 상당 부분 겹칩니다.
수법도 치밀했는데, 2만 개가 넘는 계정을 동시에 운용하면서
불법 트래픽을 일반 이용자 트래픽에 섞어 추적을 피하는 방식이었습니다.
앤트로픽은 딥시크 계정 일부의 경우 특정 연구원까지 추적해 냈다고 밝혔습니다.
미국 안보 당국 측 분석에 따르면,
이 증류 방식이 없었다면 현재 6~9개월 수준인 미중 AI 기술 격차가 1년에서 18개월까지 더 벌어졌을 것이라고 추산합니다.
훔친 답안지가 격차의 절반을 지워버렸다는 표현이 나온 이유입니다.
백악관 과학기술정책실은 적대적 증류를 국가 안보 위협으로 규정한 메모를 내놓았고,
제재 목록 등재와 정부 조달 배제 같은 대응 수단이 거론되기 시작했습니다.
저는 이 부분에서 두 가지 생각이 동시에 듭니다.
적대적 증류는 정당한 투자와 연구개발을 수행하는 기업의 의욕을 꺾는 심각한 불공정 행위라고 생각합니다.
동시에, 이 방식으로 탄생한 모델에는 원본 모델이 갖추고 있던 안전장치와
윤리 가이드라인이 존재하지 않는다는 점이 더 무서운 문제라고 봅니다.
그런 모델이 오픈소스로 풀릴 경우 어떤 정부도 통제하기 어렵다는 앤트로픽의 경고는 과장이 아닐 가능성이 높습니다.
한국 입장에서 이 문제는 더 복잡합니다.
미국 모델에만 의존하면 비용과 기술 종속 문제가 따라오고,
저렴하지만 안전장치 없는 중국 오픈웨이트 모델을 선택하면 보안과 검열 문제가 생깁니다.
삼성전자와 SK하이닉스는 중국 내 생산 시설과 거래선이 있어 수출 통제 강화 시 불확실성도 커집니다.
독자적인 AI 모델과 반도체·클라우드 인프라를 지켜내지 못하면 두 강대국 기술 중 하나를 골라 빌리는 처지가 될 수밖에 없습니다. 이 세 가지 이해관계를 동시에 풀어야 하는 상황이 어느 때보다 무겁게 느껴집니다.
자주 묻는 질문
Q. 키미 K3가 정말 GPT나 Claude만큼 잘 쓸 수 있는 건가요?
A. 문샷 AI 스스로 "전반적 성능은 아직 최상위 모델에 못 미친다"고 인정했습니다.
다만 코딩과 AI 에이전트 분야에서는 미국 최신 모델들을 제치고 리더보드 1위에 오른 항목도 있습니다.
"모든 용도에서 동등하다"라고 보기는 어렵고, 특정 영역에서는 충분히 대안이 될 수 있다는 평가가 맞을 것 같습니다.
Q. 적대적 증류로 만든 모델을 쓰면 나한테도 문제가 생기나요?
A. 직접적인 법적 책임이 사용자에게 귀속되는 건 아닙니다.
다만 앤트로픽이 경고한 것처럼, 이런 방식으로 만들어진 모델에는 원본의 안전장치와 편향 필터가 빠져 있을 가능성이 있습니다. 특히 해당 모델이 오픈웨이트로 공개되어 추가 수정이 이루어진 경우라면,
출력 결과의 신뢰성과 안전성을 더 꼼꼼히 따져봐야 할 필요가 있습니다.
Q. 한국 기업이 중국 오픈웨이트 AI를 업무에 쓰는 게 괜찮을까요?
A. 가격과 접근성만 보면 매력적인 선택지인 건 사실입니다.
그러나 보안 검열 이슈, 안전장치 부재, 미국의 수출 통제 동참 요구가 맞물리면서 기업 차원의 리스크가 작지 않습니다.
개인 수준의 테스트와 기업 공식 도입은 다른 문제이므로, 도입 전 보안 정책 검토가 선행되어야 한다고 봅니다.
Q. MoE 아키텍처가 기존 AI 방식과 뭐가 다른 건가요?
A. 기존 밀집형(Dense) 모델은 모든 매개변수를 한꺼번에 사용하는 방식입니다.
반면 MoE(Mixture of Experts)는 수백 개의 전문 모듈 중 현재 입력에 최적화된 일부만 선택해 활성화합니다.
키미 K3의 경우 896개 전문 영역 중 16개만 켜는 방식으로,
같은 성능을 훨씬 적은 연산으로 구현할 수 있어 전력 비용과 추론 속도 모두 유리합니다.
결론
제가 직접 오픈소스 AI를 세팅해 쓰면서 느낀 건,
"목적에 맞는 가성비 모델의 수요가 앞으로 엄청나게 커지겠다"는 감각이었습니다.
키미 K3는 그 흐름의 연장선에 있습니다.
다만 그 뒤에 적대적 증류라는 방식이 얽혀 있다는 점은 단순히 기술 경쟁의 문제가 아니라,
공정성과 안전성 모두를 건드리는 복잡한 사안입니다.
AI 산업이 무작정 규모만 키우는 거대 모델 경쟁에서 실용성과 비용 효율성의 싸움으로 전환되고 있다는 건 분명해 보입니다.
한국은 미국의 기술 통제 동참, 중국 시장 관리, 독자 AI 생태계 구축이라는 세 가지 과제를 동시에 안고 있습니다.
어떤 선택도 쉽지 않지만, 선택을 미루는 것이 가장 위험한 선택이 될 수 있다는 점은 분명합니다.
참고 : 유튜브 SBS 뉴스 : "그만 좀 훔쳐가!" 폭발해버린 클로드.."또 중국" 미국 뒤집은 '증류 수법' / SBS / 글로벌인사이트