AI는 빠르게 증가하는 비즈니스 비용입니다. 일부 회사는 더 저렴한 중국 AI 모델로 전환하여 비용을 절감하고 있습니다.
게티 이미지를 통한 Imen Ben Youssef/Hans Lucas/AFP
캡션 숨기기
캡션 전환
게티 이미지를 통한 Imen Ben Youssef/Hans Lucas/AFP
NPR 구독 첫 번째 하루를 시작하는 데 필요한 이야기를 담은 아침 뉴스레터.
샌프란시스코 — 샌프란시스코에 본사를 둔 Flo Crivello의 스타트업인 Lindy.ai는 이메일과 달력을 관리하는 인공 지능 “보조자”를 만듭니다. 초기에 회사는 Anthropic의 고급 AI 모델에 크게 의존했습니다.
그러나 Crivello는 재무 관리자와의 회의를 통해 한 가지가 분명해졌다고 말했습니다. “지금까지 우리의 1위 지출은 인위적인 지출이었습니다.”라고 그는 말했습니다. “월급 그 이상이죠.”
급여 그 이상 – 24명 이상의 직원을 위한 것입니다. 임대료 그 이상. 무엇보다. 그래서 지난 달 Crivello는 발표 Lindy는 트래픽을 100% 중국 AI 모델로 마이그레이션했습니다. DeepSeek-V4.
그는 “단지 10배 더 저렴했습니다.”라고 말하면서 회사는 수백만 달러를 절약했다고 덧붙였습니다. “그래서 그것은 매우 간단한 비즈니스 결정이었습니다.”
인공지능은 다음 중 하나가 되었습니다. 하지만 사실은 그렇지 않습니다. 그만큼 – 미국 기업의 비용이 가장 빠르게 증가하고 있습니다. 그러나 많은 기업에게 이는 양날의 검입니다. 필요하지만 비용이 많이 듭니다. 생존을 위해 점점 더 많은 기업이 미국 모델을 버리고 더 저렴한 중국 AI를 선호하고 있습니다.
최고의 AI 모델을 만들기 위한 경쟁에서 Anthropic, OpenAI, Google과 같은 미국 기업이 세계를 선도하고 있습니다. 전문가들은 성능 면에서 중국 모델이 6~12개월 뒤처져 있다고 말한다.
그러나 중국은 무료로 다운로드하고 적용할 수 있는 오픈 소스 모델로 자리를 잡았습니다. Crivello는 “현재 오픈소스 분야는 완전히 중국이 장악하고 있습니다. 그 수준도 가까워지지 않습니다.”라고 말했습니다.
그는 AI 분야에서 일하는 모든 창업자들이 중국 모델로의 전환을 고려하고 있거나 이미 그렇게 했다고 말했습니다.
그리고 AI의 치솟는 비용도 단순한 문제가 아닙니다. Uber CEO Dara Khosrowshahi는 지난달에 이에 대해 말했습니다. 최고처럼 투자하세요 팟캐스트. “우리는 기본적으로 1년 내내 한 분기에 AI 예산을 날려버렸습니다. 이로 인해 조정이 불가피해졌습니다.”라고 그는 말했습니다.
(Uber는 중국 모델을 사용하는지 여부에 대한 NPR의 논평 요청에 응답하지 않았습니다.)
블룸버그 보고됨 Airbnb의 CEO인 Brian Chesky는 작년에 Airbnb가 “좋고” “빠르고 저렴한” Alibaba의 Qwen 모델에 의존했다고 말했습니다. 당황 그리고 엔비디아 Qwen도 사용했습니다.
페라리나 혼다처럼
많은 기업들이 정치적 민감성으로 인해 중국 모델 사용 발표를 꺼려하지만 이러한 모델은 AI 모델 허브에서 널리 사용 가능합니다. Hugging Face와 같은 코드 호스팅 플랫폼 GitHub와 중국 외부에 기반을 둔 모델 수집자 및 추론 공급자를 통해.
여기에는 약 30,000개의 AI 모델에 대한 액세스를 제공하는 샌프란시스코 기반 Featherless가 포함됩니다. 설립자이자 CEO인 유진 체아(Eugene Cheah)는 중국 모델이 “선구자”나 동급 최고의 모델이 아니더라도 인기가 있다고 말했습니다.
“그것은 페라리와 혼다를 운전하는 것의 차이와 같습니다. 최고의 럭셔리 자동차를 가질 수도 있고 제대로 작동하는 본격적인 혼다를 가질 수도 있습니다”라고 그는 말했습니다.
“실제로 많은 오픈 소스 AI 그룹은 N-1이 되어도 괜찮습니다. N이 경계입니다.”라고 그는 계속했습니다. “격차가 계속해서 좁아지면서 어느 시점에서 ‘그것이 정말로 중요한가?’라는 의문이 제기되기 때문입니다.”
Lindy와 같은 많은 사람들에게 이것은 중요하지 않습니다. IA의 Honda는 완벽하게 좋습니다.
스타트업이 다양한 AI 모델에 액세스할 수 있는 또 다른 플랫폼인 OpenRouter는 중국의 DeepSeek 사용이 1월 이후 약 9%에서 거의 20%로 증가했다고 보고했습니다. 중국 회사인 MiniMax, Xiaomi 및 Tencent의 모델 사용도 증가했습니다.
일부 사용자는 오픈소스 중국 AI 모델을 직접 다운로드하여 호스팅하지만, 많은 사용자는 Featherless 및 OpenRouter와 같은 유료 AI 호스팅 회사를 통해 이를 사용하므로 사용자 데이터는 미국에 보관됩니다.
상하이에 본사를 둔 MiniMax의 글로벌 제품 마케팅 책임자인 Victor Su-Ortiz는 최근 샌프란시스코에서 열린 AI 엔지니어 컨퍼런스에 참석했습니다. 기업은 토큰이나 AI 작업 단위에 대한 비용을 지불하여 AI 모델 사용 비용을 지불합니다. Su-Ortiz는 모든 것이 토큰당 비용에 달려 있다고 말했습니다.
그는 “유능하지만 주요 AI 모델에 비해 토큰당 비용이 훨씬 낮은 모델을 사용하면 많은 반복 작업을 수행할 수 있습니다.”라고 말했습니다. “그리고 이것이 기본적으로 이러한 개방형 모델을 미국으로 가져온 이유입니다.”
그는 기업들이 AI를 최대한 많이 사용하는 “tokenmaxxing”에서 벗어나 사용량을 제한하고, 더 저렴한 모델로 전환하거나, 다양한 유형의 AI 작업을 다른 유형의 모델로 라우팅하여 비용을 절감하고 있다고 말했습니다.
예를 들어 연구나 ‘심층 추론’의 경우 최첨단 모델이 더 나은 성능을 발휘할 수 있다고 Su-Ortiz는 말했습니다. “그러나 반복적인 대용량 코딩 작업을 수행하는 경우… 우리 모델 중 하나, 특히 MiniMax M3는 단 10분의 1의 비용으로 탁월한 성능을 발휘할 것입니다.”
몇 달러를 절약하는 것은 모든 사람에게 가치가 있는 것이 아닙니다.
일부 회사의 경우 중국 모델로는 아직 충분하지 않습니다. Jon Gordner는 불과 몇 주 전에 설립되어 코더와 AI 에이전트를 위한 Google Docs와 같은 제품을 개발하고 있는 Comment.io의 CEO이자 공동 창립자입니다.
“우리는 가능한 한 빨리 최고의 소프트웨어를 구축해야 합니다. 그리고 오류를 수정하는 데 2~3주를 추가로 투자해야 한다면 더 저렴한 모델에 몇 달러를 절약하는 것은 가치가 없습니다.”라고 그는 말했습니다.
Gordner는 자신의 회사가 Anthropic 및 OpenAI 모델에서 부분적으로 가치를 창출한다고 말했습니다. 두 회사 모두 고객 유치를 위해 사용자에게 보조금을 지급하기 때문입니다. 그는 월간 구독이 이제 엄청난 할인을 받아 토큰을 제공하지만 아마도 영원히 지속되지는 않을 것이라고 말했습니다.
“따라서 우리에게는 중국 모델과 오픈 소스 모델을 평가하기 시작하는 것이 훨씬 더 합리적일 것입니다.”라고 그는 말했습니다.
Ara Kharazian은 기업의 비용 추적, 통제, 자동화를 돕는 회사인 Ramp의 수석 경제학자입니다. Kharazian은 미국 기업들이 계속해서 적응할 것이라고 생각한다고 말했습니다. 즉, 그들은 중국 경쟁사를 대체하기 위한 노력의 일환으로 가격을 통제하거나 고품질 오픈 소스 모델을 도입할 수도 있습니다.
“이러한 중국 모델의 부상은 기업이 오늘날 미국 모델 회사가 제공하지 않는 것을 원한다는 사실을 나타냅니다.”라고 그는 말했습니다. “내가 중국 모델에 대해 비관적인 유일한 이유는 미국 모델 회사들이 경쟁적으로 대응할 것이라고 가정하기 때문입니다.”
Comment.io의 Gordner는 확실하지 않습니다. 그는 미국의 대형 AI 회사들이 충전을 시작해야 할 수도 있다고 생각합니다. 더 AI의 경우 IPO가 가까워질수록 수익성을 입증해야 한다는 압박이 커집니다. 둘 다 인류학 OpenAI와 OpenAI는 가능한 IPO에 대한 공을 굴리기 위해 미국 정부에 기밀 문서를 제출했습니다.
Gordner는 “어느 시점에는 음악이 멈출 것”이라고 말했습니다.
Anthropic은 NPR의 재정적 후원자입니다.
