엔비디아의 200억 달러 트로이 목마

“NVIDIA가 200억 달러에 Groq를 ‘구입했다’”라는 헤드라인은 훌륭한 썸네일을 만들어내지만, 핵심을 놓치고 있습니다. 이는 한 회사가 다른 회사로 사라지는 깨끗한 인수합병이 아닙니다. 이는 대규모 인력 이주와 함께 이루어진 세심하게 설계된 비독점 라이선스 계약입니다.

NVIDIA는 Groq의 기업 지분을 소유하지 않습니다. 대신, Groq의 고속 추론 기술에 대한 라이센스를 확보하고 설립자 조나단 로스, 사장 써니 마드라, 그리고 몇 명의 핵심 고위 엔지니어들을 채용합니다. Groq는 브랜드, GroqCloud 서비스, 그리고 최소한의 조직을 신임 CEO 사이몬 에드워드 하에 유지합니다.

그러한 구분은 중요합니다. 전체 인수는 이미 데이터 센터 GPU 시장의 약 80–90%를 점유하고 있는 회사에 대해 훨씬 더 강력한 반독점 조사를 촉발할 것입니다. 라이선스와 인재를 함께하는 거래는 NVIDIA에게 대부분의 이점을 제공합니다—지적 재산 접근, 칩 설계자, 경쟁 중립화—규제 부담 없이요.

이 구조는 Groq의 미래를 재편성합니다. 서면상으로 Groq는 전문 추론 칩 분야에서 독립적인 경쟁자로 남아 있습니다. 그러나 실제로는 최전선 R&D 핵심 인력이 떠나고, 이제 그들의 가장 가치 있는 기술은 NVIDIA의 방어력을 강화하는 데 기여하고 있습니다.

빅테크는 지난 2년 동안 이 플레이북을 다듬어왔습니다. 마이크로소프트의 6억 5천만 달러 규모의 인플렉션 AI와의 계약, 구글의 보고된 27억 달러 규모의 캐릭터.AI 관련 거래, 아마존의 어댑트로부터의 인재 확보 모두 같은 패턴을 따릅니다: - 기술 라이센스 - 창립자와 직원 채용 - 약화된 “독립적인” 스타트업 남기기

규제 당국은 여전히 로고로 점점이 채워진 분야를 보고 있지만, 실제 경쟁은 이미 통합되었습니다. 투자자들은 5–10배의 벤처 판타지 대신 1–1.5배의 겸손한 수익을 얻고 있으며, 그들이 지원한 스타트업은 좁고 비위협적인 틈새시장으로 강제로 몰리게 되어 “좀비 껍데기”가 될 위험에 처해 있습니다.

이 200억 달러의 전략은 AI 무기 경쟁의 다음 단계가 어떻게 진행될지를 나타냅니다. 기존 기업들은 항상 경쟁사를 직접 인수하지는 않을 것이며, 대신 계약과 제안서를 통해 그들을 잠식한 후, 남아 있는 형태를 시장이 여전히 활발하다는 증거로 삼을 것입니다.

기업 인수라는 표현으로는 부족하다. NVIDIA는 Groq의 핵심 자산을 확보했다: 구글의 맞춤 AI 칩을 정의하는 데 도움을 준 TPU 설계자인 Jonathan Ross; Groq를 진정한 추론 경쟁자로 만든 사장 Sunny Madra; 그리고 Groq의 핵심 LPU 아키텍처에 대한 비독점 라이선스. 고위 기술 리더십과 수년 간의 컴파일러, 런타임, 시스템 작업을 더하면 NVIDIA는 사실상 10년의 R&D를 단축하는 셈이다.

그로크(Groq)는 겉으로 보기에는 살아남았습니다. 그로크클라우드(GroqCloud) 추론 서비스는 계속 운영되고, 그로크 브랜드는 지속되며, 간소화된 법인은 새로운 CEO 아래 독립적으로 유지됩니다. 남아 있는 것은 성장 기업보다는 준수 아티팩트에 더 가까워 보입니다: 이사회, 몇몇 엔지니어, 그리고 이 회사를 폐쇄라고 부르지 않기 위한 최소한의 운영 능력입니다.

거래 구조는 거의 외과적 정밀성을 보여줍니다. NVIDIA는 모든 합병의 혼란을 피하면서 재무 통합, 장기 부채 인수, 2022년 400억 달러에 달하는 Arm 입찰을 무산시킨 동일한 반독점 기준을 촉발시킬 필요가 없습니다. 대신 AI 하드웨어 전쟁에서 실제로 중요한 세 가지 자산을 확보합니다: - 핵심 인력 - 핵심 지식재산 접근 - 신뢰할 수 있는 미래의 경쟁자 제거

Groq의 측면은 매우 다릅니다. 투자자들은 200억 달러 규모의 라이센스 및 인센티브 패키지를 통해 유동성을 얻지만, 대부분의 성장 가능성은 Ross와 그의 팀과 함께 NVIDIA로 넘어갑니다. 남은 자원은 이제 원래의 비전가 없이, 같은 최전선 연구개발 엔진 없이, 그리고 최고의 아이디어가 지배적인 GPU 공급업체 내에서 부분적으로 제품화된 상태로 미래를 구축해야 합니다.

가치를 교환이라고 하지 말고 가치 이전이라고 부르세요. 자금은 한 방향으로 흐르지만, 전략적 레버리지는 반대 방향으로 흐르며 NVIDIA가 이미 지배적인 80-90%의 데이터 센터 GPU 위치를 더욱 공고히 합니다. Groq의 남은 자산은 브랜드와 클라우드 서비스를 보유하고 있지만, NVIDIA는 인재, 로드맵에 대한 영향력, 그리고 Groq의 건축적 장점을 자신의 생태계에 대규모로 통합할 수 있는 능력을 갖추고 있습니다.

이를 역 인수-채용이라고 할 수 있다: 사람들을 얻기 위해 전체 회사를 사는 대신, 대기업이 라이센스, 인센티브, 그리고 “파트너십”에 대해 막대한 돈을 지불하는 동안, 스타 인재는 조용히 회사를 떠나게 된다. 자본 구조는 문서상 그대로 유지되지만, 실제 회사는 속이 비게 된다. 상업 거래처럼 보이는 것이 실제로는 인재와 청사진을 작은 소리로 인수하는 기능을 한다.

전통적인 아퀴하이어는 둔한 도구입니다. 대기업이 스타트업을 전면 인수하고 팀을 흡수한 뒤, 제품은 폐기되거나 묻히게 됩니다. 규제 기관은 깨끗한 M&A 거래를 보고하고, 이사회는 투표하며, 모든 이가 서류를 제출합니다. 리버스 아퀴하이어는 자본과 기업 통제권을 기술적으로 분리한 채로 오직 중요한 자산만을 이전함으로써 그 스크립트를 뒤집습니다.

마이크로소프트의 2024년 인플렉션 AI와의 거래는 현대적인 템플릿을 설정했습니다. 마이크로소프트는 라이선스 계약과 비경쟁 계약을 위해 대략 6억 5천만 달러를 지불한 후, 공동 창립자인 무스타파 수레만, 공동 창립자인 카렌 시모니얀, 및 대부분의 직원들을 새로운 내부 AI 그룹으로 채용했습니다. 인플렉션은 소비자 AI 어시스턴트에서 훨씬 작은 기업 제품으로 선회하였고, 투자자들은 reportedly 자본의 약 1.1배에서 1.5배만을 회수했다고 전해졌습니다.

구글은 2024년 Character.AI와 함께하며 약 27억 달러 규모의 라이선스 및 협력 패키지에 합의하고 공동 창립자인 노암 샤제르와 다니엘 드 프레이타스가 구글로 돌아왔습니다. Character.AI는 최첨단 LLM 구축에서 벗어나 소비자 채팅 플랫폼에 집중하게 되었고, 이 거래는 고의적으로 인수 검토를 회피했는지를 조사하는 법무부의 조사를 촉발했습니다. 아마존은 Adept와 유사한 전략을 취하며 CEO 데이비드 루안과 주요 창립자들을 영입했지만, Adept는 보다 좁은 범위의 “대리인” 기업 도구로 후퇴했습니다.

NVIDIA의 200억 달러 규모의 Grok과의 계약은 거의 완벽하게 그 패턴에 들어맞습니다. 공식적으로 이는 비독점적 추론 기술 라이선스 및 인센티브로 구성되며, Grok은 새로운 CEO 하에 GroqCloud를 계속 운영할 예정입니다. Groq와 NVIDIA가 비독점적 추론 기술 라이선스 계약 체결 발표 내용은 파트너십처럼 읽히고, 인재 흐름과 지식 재산 접근은 인수처럼 읽힙니다.

동기 부여는 이러한 거래 전반에 걸쳐 일관되게 유지됩니다. 기존 기업들은 경쟁업체의 출현 없이 반독점 경고를 피하고 복잡한 전체 스택 통합 문제에 얽히지 않으면서 최전선의 인재와 차별화된 지적 재산(IP), 그리고 신뢰할 수 있는 경쟁자를 줄이기를 원합니다. 스타트업은 하향 조정의 매각 대신 “부드러운 착륙”을 경험하고, 벤처 캐피털은 자금을 회수하고 작은 프리미엄을 얻을 수 있지만, 그들이 예상하는 3~10배의 결과를 거의 얻지 못합니다.

AI 작업은 두 가지 매우 다른 작업으로 나뉩니다. 훈련은 모델을 구축하며, 수일 또는 수주에 걸쳐 GPU 클러스터에서 방대한 데이터 세트를 처리합니다. 추론은 그 완성된 모델을 하루에 수백만 또는 수십억 번 실행하며, 프롬프트에 응답하고, 피드를 순위 매기고, 최종 사용자를 위해 실시간으로 비디오를 생성합니다.

훈련이 관심을 끌지만, 추론이 수익을 만들어냅니다. 모든 ChatGPT 응답, TikTok 추천, 또는 기업용 코파일럿 호출은 전력을 소모하고 하드웨어 사이클을 소모하는 추론 요청입니다. 사용이 폭발적으로 증가함에 따라, 클라우드 제공업체와 하이퍼스케일러는 각 쿼리에서 센트의 일부를 절감하는 데 집착하고 있습니다.

Groq는 LPU(언어 처리 유닛) 아키텍처를 통해 그 문제에 직접 접근했습니다. 유연하고 대규모 병렬 GPU 대신, Groq는 AI 그래프를 고정된 데이터 흐름 파이프라인처럼 실행하는 결정론적 컴파일러 기반 칩을 구축했습니다. 캐시가 없고, 분기가 거의 없으며, 엄격하게 제어되는 온칩 메모리는 예측 가능한 레이턴시와 매우 높은 처리량을 의미했습니다.

NVIDIA GPU가 훈련과 추론을 동시에 수행하는 반면, Groq는 이미 존재하는 모델을 실행하는 데 최적화되었습니다. Groq와 독립 테스트업체의 벤치마크에 따르면, 그들의 LPU는 대형 언어 모델에서 초당 수만 개의 토큰을 처리하면서 단Digit 밀리초의 지연 시간을 보였습니다. 특정 변환기 워크로드에 대해 Groq 하드웨어는 최고의 NVIDIA 데이터 센터 GPU보다 와트당 및 달러당 더 많은 추론을 제공했습니다.

그 차이는 하이퍼스케일에서 중요합니다. Groq가 주요 고객을 위해 추론 비용을 30-50% 절감할 수 있다면, 클라우드 플랫폼과 대형 AI 연구소는 NVIDIA GPU에서 트래픽을 전환할 강력한 이유가 생길 것입니다. 이렇게 전환된 토큰 스트림은 데이터 센터에서 NVIDIA의 H 시리즈 가속기에 대한 프리미엄 가격을 잠식할 것입니다.

NVIDIA의 데이터 센터 사업은 이미 OpenAI, Anthropic, Meta 등에서의 GPU 기반 추론을 통해 70% 이상의 매출 총이익률을 기록하고 있다. 더 나은 경제성을 갖춘 신뢰할 수 있는 독립 대안은 단순히 판매량뿐만 아니라 그 전체에 걸친 가격 책정 능력에도 위협이 되었다. Groq는 시장 전체에서 '승리'할 필요가 없었고, 단지 협상에서의 입지를 확고히 하면 되었다.

그 관점에서 볼 때, 200억 달러 규모의 라이선스 및 인재 계약은 방어적으로 보입니다. NVIDIA는 Groq의 핵심 설계자를 확보하고, LPU IP에 대한 비독점적 통제권을 획득하며, 하이퍼스케일러들이 Groq를 데이터 센터 GPU 프랜차이즈에 대한 의미 있는 레버리지로 전환하기 전에 비용에 충격을 줄 수 있는 경쟁자를 무력화합니다.

조너선 로스는 이 거래의 중심에 중력 우물처럼 자리잡고 있습니다. 구글의 첫 TPU의 수석 설계자로서 그는 맞춤형 AI 가속기의 현대 시대를 시작하는 데 도움을 주었고, 하이퍼스케일러들이 일반적인 GPU에 얽매이기만 할 필요가 없음을 증명했습니다. 2016년에 발표된 TPU v1은 현대 CPU보다 추론 작업에서 최대 30배에서 80배 더 나은 성능-와트 비율을 제공했으며, 이는 구글의 검색, 번역 및 광고와 관련된 내부 경제 구조를 재편성했습니다.

Groq는 Ross가 최초의 AI 실리콘에서 보았던 한계에 대한 대답이었습니다. TPU와 GPU가 여전히 복잡한 명령 스트림과 메모리 계층을 처리하는 반면, Groq의 LPU 아키텍처는 단일 목적의 결정론을 추구했습니다: 언어 모델을 통해 토큰을 빠르고 예측 가능한 속도로 전송할 수 있는 거대한 정적 스케줄 데이터 흐름 엔진. Groq의 데모는 LLM 추론이 초당 수십만 개의 토큰으로 측정되며, 대기 시간이 매우 안정적이라 평탄한 선처럼 보였습니다.

로스는 그로크를 "추론 우선"으로 프레임하며, 훈련에 집착하는 세상 속에서 이를 강조했습니다. 훈련은 헤드라인을 만들어내지만, 추론은 클라우드 비용을 지불합니다. 배치 크기 1, 낮은 지연 시간의 워크로드—채팅봇, 코파일럿, 실시간 에이전트 뒤에 있는 것들—최적화를 통해 그로크는 범용 가속기를 초월하고 추론을 자체 하드웨어 카테고리로 탈바꿈하려 했습니다. LPU의 제안은: 조정이 적고 처리량이 많으며 지터가 적다는 것입니다.

NVIDIA가 로스를 내부로 끌어들이는 것은 전략적인 전환을 의미합니다. 이 회사는 데이터 센터 GPU에서 이미 시장 점유율이 80-90%에 달하며 지배력을 가지고 있지만, 여전히 GPU 중심의 세계관에 의존하고 있습니다. TPU와 LPU 모두의 가능성을 입증한 엔지니어를 영입함으로써 NVIDIA는 유연성을 위한 GPU, 네트워킹을 위한 DPU, 그리고 이제 로스급 추론 반도체 사고를 결합한 포트폴리오를 갖추게 되어 그 입지를 더욱 강화하게 됩니다.

재무 공학 뒤에는 강렬한 현실이 숨겨져 있다: AI 하드웨어 전쟁은 소수의 사람들 사이의 싸움이다. 세계급 AI 가속기를 배송한 아키텍트를 손가락으로 셀 수 있을 정도로 소수밖에 되지 않는다—TPU급, Cerebras급, Groq급의 아키텍트는 아마 몇 십 명의 손가락으로도 셀 수 있을 것이다. NVIDIA가 200억 달러의 수표를 라이센스와 인센티브에 쓰는 것은 단순히 지적 재산을 사는 것이 아니라, 경쟁 클라우드나 주관적인 칩 프로그램이 나타나기 전에 그 희귀한 인재 중 하나를 확보하는 것이다.

CUDA는 GPU가 아닌 NVIDIA의 진정한 보루를 구축했습니다. 2007년에 출시된 CUDA는 그래픽 칩을 범용 병렬 컴퓨터로 변화시켰고, “AI 가속기”가 자금 조달 Pitch가 되기 훨씬 전부터 연구자들에게 안정적인 프로그래밍 모델을 제공했습니다. 17년이 지난 지금, PyTorch에서 TensorFlow에 이르기까지 거의 모든 딥러닝 프레임워크가 CUDA를 기본 대상으로 삼고 있습니다.

그 초창기 베팅은 잔혹한 경로 의존성을 만들어냈다. 수천 개의 실험실, 연구자, 스타트업들이 CUDA를 중심으로 커널, 튜토리얼, 강의 자료를 작성한 이후, 모든 새로운 프로젝트는 그 생태계에 남아 있을 강력한 유인을 가지게 되었다. 추가적인 CUDA 최적화 논문, GitHub 레포지토리, 또는 Kaggle 노트북이 나올수록 다음 팀의 선택을 더욱 강화했다.

네트워크 효과는 이제 전체 AI 스택에 걸쳐 있습니다. 대학에서는 "GPU 프로그래밍"을 가르치지만 실제로는 CUDA를 의미합니다; 수많은 MOOC와 교과서에 CUDA 코드가 포함되어 있습니다. cuDNN, NCCL, TensorRT와 같은 오픈 소스 라이브러리는 Google, Meta, OpenAI 및 거의 모든 클라우드 제공업체의 생산 시스템 아래에 위치해 있습니다.

전환은 단순히 재컴파일 하는 것 이상의 의미를 가집니다. 심각한 CUDA 종료에는 다음이 필요합니다: - 수천 개의 맞춤형 커널을 재작성하거나 교체하기 - 엔지니어 재교육 및 채용 프로세스 수정하기 - 새로운 툴체인에 맞춰 모델과 인프라 재검증하기

매우 규모가 큰 기업이 NVIDIA H100 및 H200에 매년 수십억 달러를 지출하는 경우, 이는 수년에 걸쳐 수억 달러 규모의 마이그레이션이 됩니다. 잘 자금이 지원된 스타트업이라 할지라도, ROCm과 같은 경쟁 스택이나 맞춤형 SDK로의 이전은 제품 로드맵을 지연시키고 고객 SLA를 위반할 위험이 있습니다.

건축적으로 우수한 하드웨어도 여전히 이 벽에 부딪힙니다. Cerebras의 웨이퍼 스케일 엔진, Groq의 LPU, 그리고 수많은 추론 ASIC은 경이로운 벤치마크를 기록할 수 있지만, 이들은 CUDA를 에뮬레이트하거나 번역 계층을 통해 CUDA를 지원하거나, 개발자들에게 또 다른 저수준 API를 배우도록 설득해야 합니다. 모든 간접 계층은 지연, 복잡성 또는 누락된 기능을 추가합니다.

한편, NVIDIA는 성벽을 더욱 깊게 쌓고 있습니다. CUDA는 이제 수직적 영역으로 확장되고 있습니다: 물리를 위한 cuQuantum, 물류를 위한 cuOpt, 분석을 위한 cuGraph, 그리고 Kubernetes, Slurm, 주요 클라우드 서비스와의 긴밀한 통합. 각 새로운 라이브러리는 대안들이 차별화될 수 있는 영역을 줄이고 있습니다.

그것이 Nvidia가 AI 칩 스타트업 Groq의 자산을 약 200억 달러에 구매하는 것과 같은 거래가 원시 실리콘보다는 다음에 CUDA에 연결할 대상을 더 중요하게 여기는 이유입니다. 경쟁자들은 단순히 칩을 싸우고 있는 것이 아니라, 17년 된 소프트웨어 바다와 싸우고 있습니다.

세레브라스는 하이퍼스케일러나 GPU 거대 기업으로 흡수되지 않은 독립 AI 실리콘 스타트업의 점점 줄어드는 분야에 자리잡고 있습니다. 그록, 하바나 랩스, 그리고 네르바나 시스템이 외형만 남거나 흡수된 자산이 된 가운데, 세레브라스 시스템즈는 IPO를 추진하며 구조적으로 독립적인 상태를 유지하고 있으며, 수억 달러에 달하는 벤처 자금과 정부 계약에 힘입고 있습니다.

NVIDIA의 GPU 플레이북을 쫓는 대신, Cerebras는 웨이퍼 스케일 엔진이라는 실제 접시 크기의 프로세서를 개발했습니다. 이 칩의 3세대 버전은 300mm 실리콘 웨이퍼 전체를 단일 장치로 절단하여 수십만 개의 코어를 집약하고, 일반적으로 GPU 랙을 연결하는 PCIe 링크와 NVLink 브리지를 없앴습니다.

전통적인 GPU 클러스터는 카드와 노드 간에 텐서를 이동시키면서 성능을 소모합니다. 그러나 Cerebras의 설계는 모든 것을 하나의 웨이퍼에 유지합니다. 칩 간 통신을 칩 내부 라우팅으로 통합함으로써, 이 회사는 데이터 이동을 기다리느라 사이클을 소모하는 대형 모델에 대해 대역폭, 대기 시간, 활용도에서 엄청난 이익을 주장합니다.

CUDA의 본거지에서 싸우기보다, Cerebras는 생태계 락인 문제가 덜 중요시되는 곳으로 향했습니다: 국립 연구소, 방위 산업, 그리고 주권 AI 프로젝트. Argonne, Lawrence Livermore, Sandia 국립 연구소와 같은 고객들은 PyTorch 연산이 GPU 커널에 제대로 맵핑되는지보다 원초적인 처리량, 데이터의 지역성, 그리고 온프레미스 제어를 훨씬 더 중요하게 생각합니다.

그 구매자들은 이미 맞춤형 작업 부하(기후 모델, 핵 시뮬레이션, 분류된 언어 시스템)를 운영하고 있기 때문에 새로운 가속기로 코드를 포팅하는 것은 성능 및 보안 이득과 비교할 때 사소한 문제처럼 보입니다. Cerebras는 CS-3 시스템을 장치로 판매하며, 이는 AI 및 HPC 훈련에 전념하는 슈퍼컴퓨터와 같습니다.

CUDA의 장벽을 극복하기 위해, Cerebras는 서비스로서의 추론(Inference-as-a-Service) 모델에 집중했습니다. 개발자에게 커널을 다시 작성하도록 요구하는 대신, 요청을 보내고 토큰을 반환받는 호스팅된 API를 제공합니다. 이는 OpenAI나 Anthropic과 동일한 기본적인 추상화 방식입니다.

그 API 계층은 웨이퍼 규모 하드웨어를 구현 세부사항으로 바꿉니다. 기업들은 지연 시간, 처리량, 데이터 거주 보장을 구매하며, Cerebras는 조용히 자신의 실리콘을 내부에서 교체하여 NVIDIA가 이미 지배하고 있는 개발 도구 전쟁에서 승리할 필요를 회피합니다.

실리콘 혁신가들은 같은 빙산, 즉 소프트웨어 중력을 반복해서 마주치고 있습니다. 세레브라스는 2조 개 트랜지스터와 초당 페타바이트의 대역폭을 가진 접시 크기의 웨이퍼를 제작할 수 있지만, 여전히 개발자들을 NVIDIA GPU에서 단일 구성 변경으로 실행되는 PyTorch 스크립트에서 떼어내야 합니다.

역사는 이 일이 보통 어떻게 끝나는지를 보여줍니다. 베타맥스는 VHS보다 더 나은 비디오 품질을 제공했지만, 스튜디오, 렌탈 가게, 하드웨어 파트너들이 VHS에 표준화되면서 VHS가 이겼습니다. 애플의 기술적으로 우아한 맥 OS와 파워PC 하드웨어는 90년대에 더 큰 설치 기반과 풍부한 도구를 따르는 개발자들로 인해 베이지색 x86 박스에서 윈도우에 패배했습니다.

모바일은 그 패턴을 반복했습니다. WebOS와 BlackBerry 10은 시대를 앞서 간 멀티태스킹 및 제스처 시스템을 선보였지만, iOS와 Android는 다음과 같은 이유로 그들을 압도했습니다: - 더 큰 앱 스토어 - 더 나은 SDK와 문서화 - 더 예측 가능한 수익 모델

AI 하드웨어도 이제 같은 갈림길에 서 있습니다. Cerebras, Groq, Tenstorrent는 웨이퍼 스케일 엔진, LPU, RISC-V 가속기와 같은 새로운 아키텍처를 밀어붙이고 있으며, NVIDIA는 CUDA, cuDNN, TensorRT 및 PyTorch/TensorFlow의 긴밀한 통합에 다시 두 배로 투자하고 있습니다. 한쪽은 원시 FLOPs와 독창적인 레이아웃을 판매하고, 다른 한쪽은 연구 논문에서 프로덕션 클러스터로의 거의 마찰 없는 경로를 제공합니다.

개발자들은 이론적인 우아함보다는 결과를 얻는 시간을 최적화합니다. 대학원생이 오픈 소스 모델을 가져와 몇 개의 패키지를 pip로 설치하고, 한 오후 안에 H100에서 최대 성능의 90%에 도달할 수 있다면, 새로운 도구 체인, 디버거 및 배포 워크플로우를 정당화하기 위해서는 대안이 훨씬 더 뛰어나야 합니다. 종이 위에서 "2배 더 빠르다"는 종종 "기존 CI 파이프라인과 함께 작동한다"는 말에 패배하곤 합니다.

상호 운용성이 무기가 된다. NVIDIA의 스택은 다음을 포함한다: - 커널 수준에서의 CUDA - 기본 연산을 위한 cuDNN 및 cuBLAS - 배포를 위한 TensorRT 및 Triton Inference Server - 턴키 클러스터를 위한 DGX 및 DGX Cloud

그 수직 통합은 JAX에서 Mojo에 이르는 모든 새로운 프레임워크가 CUDA를 기본 대상으로 삼는다는 것을 의미합니다. 경쟁하는 실리콘은 해당 환경을 에뮬레이트해야 하거나 도구, 드라이버 및 라이브러리의 평행 우주를 구축해야 하며, 이는 판매자와 사용자 모두에게 엄청난 부담이 됩니다.

AI에서 시장 지배력은 가장 기괴한 칩을 생산하는 것보다는 엔드 투 엔드 개발 스택을 소유하는 것에 더 달려 있다. 실리콘 속도 향상도 중요하지만, 컴파일러, 런타임, 오케스트레이션 및 클라우드 통합에 대한 통제가 다음 백만 개의 모델이 훈련되고 서비스되는 장소를 결정한다.

AI 하드웨어의 시장 통합은 더는 추상적으로 보이지 않는다; 마치 정리된 체스판처럼 보인다. NVIDIA는 이미 추정 80–90%의 데이터 센터 GPU 시장을 장악하고 있으며, 200억 달러 규모의 Groq 거래와 같은 계약은 전통적인 반독점 경계를 넘지 않으면서 남아 있는 몇 개의 독립적인 조각 중 하나를 조용히 없애고 있다.

역 인수 합병 구조는 야심찬 하드웨어 창립자들에게 위축된 새로운 기준을 만들어냅니다. 최상의 "출구"가 1–1.5배의 수익과 "좀비 스타트업" 상태로의 느린 소멸이라면, 벤처 캐피탈의 합리적인 선택은 CUDA 위의 소프트웨어에 투자하는 것이지, NVIDIA에 위협이 될 가능성이 있는 경쟁 실리콘을 지원하는 것이 아닙니다.

이 변화는 중요합니다. 왜냐하면 AI 하드웨어는 자본 집약적이며 성숙하는 데 시간이 걸리기 때문입니다. 이제 7년과 수억 달러가 다음과 같은 결과로 끝날 수 있습니다: - 핵심 팀이 이탈 - 지식 재산권이 라이센스됨 - 브랜드가 유인제로 남겨짐

창립자들에게 그 플레이북은 "자금 지원 가능" 하드웨어의 오버튼 윈도우를 좁힙니다. 이미 시장에 있는 업체에 대해 협상 항복할 가능성이 높은데, 왜 또 다른 Groq나 Habana Labs에 투자하겠습니까? Cerebras가 추구하는 웨이퍼 규모 엔진처럼 독립적인 IPO를 목표로 하는 것이 아니라 말이죠.

소비자와 기업이 궁극적으로 대가를 치릅니다. 신뢰할 수 있는 경쟁자가 적어지면 가속기 가격이 상승하고, 수용 용량에 대한 대기자 명단이 길어지며, Amazon부터 Oracle까지 NVIDIA의 클라우드 파트너와 CUDA, DGX 시스템에 대한 공급업체 종속이 심화됩니다.

스타트업의 최전선 연구개발이 흡수되면 남은 껍데기는 시장을 앞으로 나아가게 하는 경우가 드뭅니다. GroqCloud는 여전히 추론 서비스를 제공할 수 있지만, 조너선 로스와 원래 핵심 팀 없이는 파괴적인 차세대 LPU를 출시할 확률이 급락합니다.

규제 당국은 여전히 혼잡해 보이는 분야를 보고 있습니다: Groq는 여전히 존재하고, Cerebras는 하드웨어를 판매하며, 클라우드 공급업체들은 내부 칩을 개발하고 있습니다. 그러나 실제 경쟁 위협—NVIDIA의 마진을 저해하거나 CUDA의 방어력을 약화시킬 수 있는 팀과 지식재산권—은 조용히 내부로 이전하고 있습니다.

NVIDIA "그로크를 인수하다"와 같은 보도는 그러한 속임수를 포착합니다. 서류상에서는 경쟁의 환상이 지속되지만, 실제 게임 조각들은 하나의 로고 아래 통합되고 있습니다. 보드는 바쁘게 보이지만 결과는 점점 더 예측 가능해집니다.

NVIDIA의 AI 하드웨어에 대한 지배력은 절대적입니다: 데이터 센터 가속기의 80–90%, 17년 된 CUDA 스택, 그리고 이제 Groq의 최고의 아이디어에 대한 효과적인 통제까지. 그러나 기술 분야의 독점은 영원히 무논쟁 상태를 유지하지 않으며, 보통 소프트웨어를 통해 가장자리에 침식됩니다.

CUDA에 대한 신뢰할 수 있는 개방형 대안이 먼저 등장할 것이다. 이를 “AI를 위한 리눅스”라고 부르자: CPU, TPU, 맞춤형 ASIC, 심지어 Cerebras의 웨이퍼 스케일 엔진과 같은 이질적인 장치에서도 효율적으로 작동하는 통합된 오픈 소스 스택으로, 훈련과 추론을 가능하게 한다. 이미 생태계에서 존재하는 구성 요소로는 PyTorch, JAX, Triton, MLIR, TVM, ROCm, oneAPI가 있다.

그것이 중요해지려면, 하이퍼스케일러들이 일치해야 합니다. 구글, 아마존, 마이크로소프트, 메타가 공통의 저수준 런타임과 커널 라이브러리에 동의하고 이를 모든 곳에 배포하는 모습을 상상해 보세요: 그들의 클라우드, 온프레미스 장비, 심지어 엣지 박스까지 말이죠. 개발자들이 하나의 오픈 스택을 대상으로 하여 NVIDIA 비실리콘에서도 일류 성능을 얻을 수 있다면, CUDA의 종속성은 기본이 아니라 세금처럼 보이기 시작합니다.

하이퍼스케일러들은 의존도를 줄일 수 있는 모든 재정적 이유를 가지고 있습니다. H100 및 B200 클러스터에서 최첨단 모델을 훈련하는 데는 연간 수십억 달러의 자본 지출과 전력이 소요됩니다. Google의 TPU v5e, AWS의 Trainium 및 Inferentia, Microsoft의 Maia 가속기는 모두 하나의 이유로 존재합니다: NVIDIA의 70% 이상의 총 이익에서 마진을 되찾기 위해서입니다.

그 자체 제작 칩은 여전히 CUDA 시대의 추상화에 크게 의존하고 있습니다. XLA, 커스텀 컴파일러, 그리고 개발자에게 GPU처럼 “느껴지도록” 하는 변환 계층이 포함되어 있습니다. 공유된 오픈 스택은 하이퍼스케일러들이 모든 모델을 다시 작성하지 않고도 자신들의 실리콘을 교체할 수 있게 해주며, 이로 인해 그들은 마침내 신뢰할 수 있는 대안이 생겼기 때문에 NVIDIA와 더 나은 가격을 조정할 수 있게 됩니다.

규제자들은 배경에서 강력한 도구로 자리하고 있습니다. 법무부는 이미 2022년에 NVIDIA의 400억 달러 규모의 Arm 거래를 차단했으며, 구글의 유사한 "역 인수 합병" 구조를 조사하고 있습니다. NVIDIA가 지배적인 하드웨어, 지배적인 소프트웨어, 그리고 어떤 성격의 경쟁자의 지식 재산권(IP)을 통제하는 세상은 반독점 조사의 대상이 될 가능성이 높습니다.

반독점 조치는 드물게 더 나은 기술을 설계하지만, 시간을 벌 수는 있습니다. Cerebras, Groq의 잔해들, 그리고 다음 세대의 칩 스타트업들에게 이 숨 쉴 공간은 CUDA의 중력 우물을 경쟁할 수 있을 만큼 강력한 것을 만들 수 있는 유일한 기회일지도 모릅니다.

Nvidia가 실제로 Groq를 200억 달러에 인수했습니까?

아니요. 엔비디아는 비독점 기술 라이센스와 그랜트의 핵심 인재, 즉 창립자를 포함한 인재를 고용하기 위해 200억 달러 규모의 거래를 성사시켰습니다. 그로크는 기술적으로 독립적인 회사로 남아 있지만, 그 핵심 가치는 추출되었습니다.

'reverse acqui-hire'는 무엇인가요?

대기업이 핵심 인재를 고용하고 스타트업의 지식 재산을 라이센스하는 전략입니다. 이는 규제 조사를 피하면서 잠재적인 경쟁자를 무력화하며, 종종 스타트업을 '좀비' 껍데기로 남겨둡니다.

Groq가 Nvidia에 위협으로 간주된 이유는 무엇인가요?

Groq는 독특한 LPU(언어 처리 장치) 아키텍처를 통해 고속, 저지연 AI 추론에 특화되어 있습니다. 이 기술은 점점 더 중요한 추론 시장에서 Nvidia의 지배력에 도전할 수 있었을 것입니다.

조나단 로스는 누구이며, 왜 중요한가요?

조나단 로스는 Groq의 창립자이자 구글의 TPU(텐서 처리 장치)의 최초 설계자입니다. 그를 고용함으로써 엔비디아는 세계적 수준의 AI 칩 설계자 중 한 명을 영입하여 경쟁사들이 그의 전문 지식을 활용하는 것을 차단했습니다.