지난 7월 19일 밤 중국 AI 스타트업 문샷AI가 자사 서비스 ‘키미’의 신규 이용자 가입을 중단한다고 발표했다. 이유는 역설적이게도 ‘예상을 뛰어넘은 인기’였다.

문샷AI는 지난 7월 17일 2조8000억개 매개변수를 갖춘 대규모 언어모델 ‘키미 K3’를 공개했다. 100만 토큰에 달하는 긴 문맥을 처리할 수 있으며, 독립 벤치마크에서는 미국의 최첨단 모델에 근접한 성능을 보인 것으로 전해졌다.

중국 내에서 딥시크의 그늘에 가려졌던 문샷AI는 하루아침에 세계적인 주목을 받게 됐다.

하지만 니혼게이자이신문에 따르면 모델 공개 후 불과 48시간 만에 서버 처리 능력이 한계에 근접했다. 문샷AI는 이용량이 예상치를 크게 웃돌아 당분간 기존 이용자에게만 서비스를 제공할 수밖에 없다는 취지로 설명했다.

신규 이용자 수용을 일시 중단한 것은 성장하고있는 기업의 행복한 비명처럼 보인다. 그러나 동시에 생성형 AI 사업이 안고 있는 구조적인 취약성을 드러낸 사건이기도 하다.

이번 ‘컴퓨팅 자원 마비’의 배경을 생성형 AI 특유의 비용 구조, 미국의 대중국 반도체 수출 규제라는 지정학적 위험, 중국 AI 업계의 세력 재편이라는 세 가지 관점에서 살펴보고 일본 기업이 얻을 수 있는 교훈을 짚어본다.

고객이 늘어날수록 비용도 커지는 생성형 AI 사업의 함정

기존 클라우드 서비스와 SaaS는 이용자가 증가하더라도 서비스 제공 비용이 비교적 완만하게 늘어 규모의 경제가 작동하기 쉬운 사업이었다. 그러나 생성형 AI의 비용 구조는 근본적으로 다르다.

이용자가 키미와 같은 대화형 AI에 질문을 한 번 입력할 때마다 모델은 GPU에서 대량의 행렬 연산을 수행한다. 그만큼 전력과 서버 가동 시간이 소모된다. 이를 ‘추론 비용’이라고 한다.

이용자가 많아질수록 추론 비용도 비례하거나 그보다 가파르게 증가한다.

최근 중국 AI 기업들은 시장점유율 확보를 우선하며 서비스를 저렴한 가격 또는 무료로 제공해 왔다. 이용자는 급증하는데 서비스 단가는 낮다면 매출보다 인프라 비용이 먼저 불어날 수 있다.

키미 K3의 급성장은 이 같은 ‘행복한 비명’이 곧바로 서버 과부하로 이어진 대표적인 사례라고 볼 수 있다.

반도체 분석가이자 경제 컨설턴트인 이와이 유스케는 생성형 AI의 비용 구조에 대한 인식이 최근 들어 달라지고 있다고 설명했다.

“생성형 AI는 이용자가 많아질수록 돈을 버는 사업이 아니다. 이용자가 많아질수록 컴퓨팅 자원을 소모하는 사업이다.”

이어 이번 사태가 수요 예측과 인프라 투자 사이의 간극을 보여준 사례라고 평가했다.

“이러한 사실이 투자자들 사이에서도 이제야 널리 인식되기 시작했다. 이번 사례는 수요 예측과 인프라 투자의 시차가 뚜렷하게 드러난 상징적인 사건이다.”

돈이 있어도 살 수 없는 ‘GPU 기근’

이번 사태를 단순한 투자 부족으로만 볼 수 없는 이유가 있다. 중국 AI 기업은 자금이 있더라도 고성능 GPU를 자유롭게 확보하기 어렵기 때문이다.

미국은 2022년 이후 중국을 대상으로 한 반도체 수출 규제를 단계적으로 강화해 왔다.

2025년 12월 트럼프 행정부가 엔비디아의 H200 중국 수출을 조건부로 허용하는 등 일시적인 완화 움직임도 나타났다. 그러나 2026년 5월 말 미국 상무부는 규제 대상을 다시 확대했다.

최신 블랙웰 시리즈를 비롯한 첨단 프로세서를 중국이나 마카오에 본사를 둔 기업에 이전할 때 수출 허가를 받도록 했다. 해외 자회사를 통한 우회 경로까지 차단하는 새로운 지침도 내놨다.

미쓰이물산전략연구소 역시 미국의 대중국 반도체 정책이 완화와 강화를 반복하는 ‘지그재그’ 흐름을 보여왔다고 분석했다.

젠슨 황 엔비디아 최고경영자에 따르면 중국 AI 반도체 시장에서 엔비디아의 점유율은 2022년 95%에서 2025년 약 50%로 떨어졌다.

중국 AI 기업은 충분한 자금을 확보하더라도 최첨단 GPU를 원하는 만큼 조달할 수 있다는 보장이 없다. 수요가 급증했을 때 설비 확충이 따라가지 못할 위험도 항상 존재한다.

문샷AI의 신규 서비스 중단 역시 이러한 구조적인 공급 제약과 무관하지 않은 것으로 보인다.

이와이 유스케는 중국 기업들이 제한된 GPU를 효율적으로 활용하는 기술로 대응해 왔다고 설명했다.

“중국 기업들은 제한된 GPU를 최대한 효율적으로 사용하는 기술로 대응해 왔다.”

그러나 수요가 예상을 뛰어넘으면 효율화만으로는 문제를 해결하기 어렵다고 지적했다.

“수요가 예상보다 크게 뛰면 효율화만으로는 감당할 수 없다.”

이어 이번 사태가 미국의 수출 규제로 인한 충격이 현실화한 사례라고 평가했다.

“이번 사건은 수출 규제의 충격이 누적되다가 실제 문제로 드러나는 시점이 찾아왔음을 보여준다.”

스타트업이 혼자 돌파하기 어려운 AI 경쟁

최근 중국 AI 업계에서는 알리바바와 텐센트, 바이두 같은 거대 IT 기업뿐 아니라 딥시크와 문샷AI, 즈푸AI 등 AI 전문 스타트업의 존재감도 커지고 있다.

블룸버그는 키미 K3가 보여준 높은 성능이 세계 증시까지 흔들 만큼 큰 충격을 줬다고 보도했다.

하지만 이번 사태는 자체적으로 거대한 데이터센터와 독자 반도체를 보유한 대기업과 외부 GPU 조달에 의존해야 하는 스타트업 사이에 무시하기 어려운 격차가 존재한다는 사실도 보여줬다.

수요가 폭발적으로 증가해도 버틸 수 있는 인프라를 갖췄는지는 AI 서비스의 신뢰성과 직결된다.

신규 이용자를 받지 못하는 상태가 길어지면 잠재 이용자들이 경쟁 서비스로 이동할 가능성도 있다.

한편 중국에서는 화웨이와 캠브리콘 등 자국 AI 반도체 기업도 성장하고 있다. 수출 규제로 발생한 GPU 조달난을 국산화로 해결하려는 움직임도 함께 진행 중이다.

향후 스타트업이 단독으로 인프라를 계속 운영할지, 대형 플랫폼 기업이나 자국 반도체 업체와의 협력을 확대할지는 아직 불확실하다. 중국 AI 업계의 세력 구도도 계속 변화할 것으로 보인다.

기업이 얻어야 할 교훈…AI는 공짜처럼 쓸 수 없다

문샷AI의 사례는 남의 일이 아니다.

생성형 AI를 활용한 신사업을 추진하면서 모델 성능이나 저렴한 이용료에만 집중하고, 사업 규모가 커졌을 때 발생할 추론 비용과 인프라 조달 위험을 가볍게 본다면 똑같은 벽에 부딪힐 수 있다.

생성형 AI 도입이 한 차례 확산한 뒤 다음 단계로 넘어가는 현재, 중요한 것은 저가 경쟁에서 벗어나는 일이다. 수요 증가를 감당할 수 있는 지속 가능한 비용 구조와 조달 위험을 반영한 인프라 전략도 필요하다.

빠른 성장이 곧 기업의 실력을 의미하지는 않는다. 성장을 끝까지 뒷받침할 기반을 갖춰야 AI 사업도 지속 가능해진다.

문샷AI의 ‘행복한 비명’은 이러한 기본 원칙을 다시 한번 보여준 사건이었다.