엔비디아가 Groq와 맺은 200억 달러 규모의 ‘사실상 인수’에 가까운 딜은 AI 반도체 판도를 다시 짜는 사건입니다. 이 거래는 형식상으로는 비독점 기술 라이선스 + 핵심 인력 영입이지만, 실질적으로는 Groq의 기술·사람·로드맵을 엔비디아 품 안으로 끌어들인 빅딜입니다. 그리고 바로 이 지점이, 국내 AI 칩 스타트업인 퓨리오사AI와 리벨리온에게 위기가 되는 지점입니다.

엔비디아–Groq 딜의 구조부터 짚어볼 필요가 있습니다. 공식 발표에 따르면 엔비디아는 Groq의 AI 추론(LPU) 기술에 대한 비독점 라이선스 계약을 체결했고, 동시에 창업자 조너선 로스와 사장, 핵심 엔지니어 다수를 엔비디아로 이직시키는 계약을 맺었습니다. 일부 매체는 이를 200억 달러 규모의 자산 인수로 보도하며 “엔비디아 역사상 최대 규모 딜”이라고 평가하고 있습니다. 반면 Groq는 자사 클라우드 비즈니스를 분리해 독립 회사로 유지하겠다고 밝히며, 법적 의미의 ‘전면 인수’는 아니라는 점을 강조하고 있습니다.

https://kr.investing.com/news/stock-market-news/article-1766717

형식은 어쨌든, 결과적으로 엔비디아는 Groq의 핵심 IP와 인력을 가져가고, Groq는 엔비디아에 의존적인 ‘반쪽짜리 경쟁자’가 되는 구조입니다. 최근 테크 업계에서 유행하는 이른바 ‘acqui-hire(인수형 인력 확보)’ 모델의 전형적인 사례라는 평가가 나옵니다.

Groq의 기술이 왜 중요한지도 짚어봐야 합니다.

Groq는 GPU가 아닌 LPU(Language Processing Unit)라는 독자 아키텍처를 통해, Llama2-70B 같은 대형 언어 모델에서 초당 100토큰 이상을 뽑아내는 초고속 추론 성능을 보여 주며 주목을 받아 왔습니다. 핵심은 SRAM 기반 온칩 메모리를 대량으로 올려 메모리 병목을 최소화하고, 아주 넓은 VLIW 파이프라인을 한 번에 밀어 넣는 결정론적(deterministic) 실행 방식입니다. 이 구조 덕분에 Groq는 GPU 대비 낮은 지연시간과 예측 가능한 성능, 높은 전력 효율이라는 세 가지 장점을 한 번에 잡았습니다.

이 기술이 엔비디아의 손에 들어간다는 것은, 단순히 “한 스타트업이 대기업에 팔렸다” 수준을 넘습니다. 엔비디아는 이미 H100·Rubin 등에서 훈련과 추론을 동시에 겨냥하고 있지만, 실시간 LLM·검색·에이전트 서비스에서 요구되는 극저지연 추론은 여전히 약한 고리로 지적돼 왔습니다. Groq LPU 아키텍처가 엔비디아의 CUDA·TensorRT 생태계와 결합되면, 그 약점까지 상당 부분 메꿔질 가능성이 큽니다.

이제 시선을 국내로 돌려 보면, 퓨리오사AI와 리벨리온이 노리던 ‘틈새’가 바로 이 영역입니다.

퓨리오사AI는 TSMC 5nm 공정 기반의 RNGD 칩과 이를 탑재한 RNGD 서버로, “H100급 성능을 훨씬 낮은 전력으로 제공한다”는 메시지를 내세워 왔습니다. FP8 기준 4PFLOPS 처리 성능과 384GB HBM3 메모리를 갖춘 RNGD 서버는 랙당 3kW 수준의 전력만 사용해, 10kW 이상을 먹는 엔비디아 DGX H100 서버 대비 전력 효율과 랙 밀도에서 큰 우위를 보입니다. 실제로 LG AI 리서치는 자사 LLM ‘EXAONE’ 추론에 RNGD를 적용해, 기존 GPU 대비 와트당 성능이 2.25배 개선됐다고 밝힌 바 있습니다.

리벨리온은 데이터센터 추론용 NPU ‘REBEL’과 칩렛 기반 REBEL-Quad 등을 통해, “GPU의 과도한 전력·비용을 줄이는 대안 칩”이라는 포지셔닝을 구축해 왔습니다. SK텔레콤·SK하이닉스·NTT 도코모 등 통신사를 전략 투자자이자 파트너로 붙여, 한국과 일본의 통신 데이터센터에서 엔비디아를 대체할 수 있는 옵션을 만들겠다는 계획도 내놓았습니다.

요약하면, 퓨리오사·리벨리온이 그동안 투자자와 고객에게 팔아온 스토리는 이렇습니다.

“엔비디아는 훈련에는 강하지만 추론에서는 비효율적이다.”

“전력 예산과 TCO 관점에서, 추론은 우리 같은 특화 NPU가 훨씬 유리하다.”

그런데 엔비디아가 Groq의 LPU 기술과 팀까지 사실상 흡수하면, 이 내러티브가 흔들릴 수밖에 없습니다.

구체적으로 어떤 점이 위기인지 정리해 보면 다음과 같습니다.

첫째, 엔비디아의 약점이던 ‘추론 효율’이 빠르게 보완될 가능성입니다.

Groq LPU는 SRAM 중심 구조 덕분에 LLM 추론에서 매우 낮은 지연시간과 높은 토큰 처리량을 자랑해 왔습니다. 엔비디아가 이 아키텍처를 Rubin 이후 세대 제품이나 별도 추론용 가속기로 녹여내면, “훈련=엔비디아, 추론=대체 칩”이라는 구도가 깨질 수 있습니다. 퓨리오사·리벨리온이 강조해 온 “와트당 성능 우위” 메시지가 약해질 수 있다는 뜻입니다.

둘째, 소프트웨어 생태계의 격차가 더 벌어질 수 있습니다.

지금도 많은 기업들이 CUDA·TensorRT·cuDNN 위에서 서비스를 운영하고 있어, 새로운 NPU를 도입하려면 SDK와 런타임을 새로 학습해야 하는 부담이 있습니다. 퓨리오사·리벨리온은 이를 완화하기 위해 PyTorch·ONNX·LLM 프레임워크와의 호환성을 꾸준히 개선해 왔지만, 여전히 ‘추가 학습’이 필요합니다. 반면 엔비디아가 Groq LPU를 자기 생태계 안에서 플러그인 형태로 제공하면, 고객 입장에서는 코드 수정 최소화 + 성능·전력 효율 개선이라는 두 마리 토끼를 한 번에 잡을 수 있습니다. 이 경우 “새로운 칩을 도입할 이유”는 더욱 설득하기 어려워집니다.

셋째, 대형 고객의 ‘세컨드 소스’ 전략이 흔들릴 수 있습니다.

통신사·클라우드·금융사 등은 보통 특정 벤더 의존을 줄이기 위해 2~3개 공급원을 유지하려고 합니다. 한국 정부 역시 9.9조 원 규모의 AI 인프라 투자를 추진하며, 국산 AI 칩 생태계를 육성하겠다고 밝힌 바 있습니다. 이 흐름 속에서 퓨리오사·리벨리온은 “엔비디아에 대한 전략적 대안”으로 자리를 잡아가는 중이었습니다. 그런데 엔비디아가 Groq까지 품에 안게 되면, 고객 입장에서는

“엔비디아 내부에서조차 다양한 아키텍처가 제공된다면 굳이 외부 스타트업을 도입해야 하나”라는 의문이 생길 수 있습니다.

넷째, 투자·인력 시장에서의 상대적 열세가 커질 수 있습니다.

Groq 딜 규모는 200억 달러 수준으로, AI 반도체 스타트업에 대한 시장의 기대와 자본의 크기를 다시 한 번 보여 줍니다. 이 정도 머니 게임이 벌어지면, 글로벌 VC와 전략 투자자들은 자연스럽게 “엔비디아와 직접 협력하거나, 미국·유럽 기반 스타트업에 베팅하는 쪽이 더 수월하다”고 느낄 수 있습니다. 한국 스타트업들이 후속 대규모 투자 라운드를 유치하는 데 장애물이 하나 더 생기는 구조입니다.

다만 이것이 곧바로 퓨리오사·리벨리온의 ‘게임 오버’를 의미하는 것은 아닙니다. 위기이자 동시에 기회가 될 수 있는 지점도 존재합니다.

우선, 지역·정책적 요인입니다.

미국 빅테크 중심의 AI 인프라에 대한 과도한 의존을 우려하는 국가들은, 자국 혹은 우방국 기반 대안을 계속 찾을 수밖에 없습니다. 한국 정부의 AI 반도체 육성 정책, SKT·LG·KT 등 통신 3사의 국산 칩 도입 시도, 일본 NTT 도코모와 리벨리온의 협력 등은 이런 맥락에서 이해할 수 있습니다. 엔비디아–Groq 딜이 반독점 규제 당국의 추가 견제를 부를수록, 정책적으로 ‘두 번째·세 번째 축’을 유지해야 한다는 논리는 더 강해질 수 있습니다.

둘째, 전력·지속가능성에서의 차별화입니다.

엔비디아가 Groq 기술을 흡수한다 해도, 자사 GPU·시스템과의 통합 과정에서 생기는 설계 제약과 기존 비즈니스 모델을 동시에 만족시켜야 합니다. 반면 퓨리오사·리벨리온은 처음부터 전력 효율과 TCO를 최우선으로 설계된 NPU라는 점에서, 특정 시장(예: 전력 인프라가 취약한 지역, 온프레미스 데이터센터, 친환경 ESG를 강조하는 기업)에서 더욱 공격적인 최적화를 시도할 여지가 있습니다.

셋째, 소규모이기에 가능한 민첩함입니다.

엔비디아와 Groq가 합쳐진 조직은 매우 강력하지만, 동시에 거대한 선박과 같습니다. 제품 로드맵·가격 정책·라이선스 구조를 바꾸는 데 시간이 걸립니다. 그 사이에 퓨리오사·리벨리온이 실제 고객 프로젝트를 빠르게 쌓고, LLM·멀티모달·엣지 inference 같은 니치에서 “실제 레퍼런스”를 늘려 간다면, 국가·산업 단위에서 꼭 필요한 ‘전략적 대안’으로 자리를 굳힐 가능성도 여전히 남아 있습니다.

정리하자면, 엔비디아의 Groq 딜은 퓨리오사AI와 리벨리온에게 분명한 경고등입니다. 그동안 이들이 내세워 온 “엔비디아가 못하는 고효율 추론을 우리가 한다”는 스토리를, 엔비디아가 직접 가져가 버릴 수 있는 카드가 생겼기 때문입니다. 동시에 이 딜은 역설적으로, 추론 특화 아키텍처와 전력 효율이 AI 인프라의 핵심 전장이 되었다는 강력한 신호이기도 합니다. Groq가 아니었다면, 퓨리오사·리벨리온 같은 회사들이 겨냥해 온 방향성 자체가 틀리지 않았다는 방증입니다.

이제 관건은 속도와 집중입니다.

국산 AI 칩들이 실제 데이터센터·서비스 레퍼런스를 얼마나 빨리 쌓느냐, 소프트웨어 생태계를 얼마나 쓰기 쉽게 만들고, 정책·규제 환경과 어떤 동맹을 맺느냐가 향후 2~3년의 성패를 가를 것입니다. Groq가 엔비디아 품으로 들어간 지금, 퓨리오사와 리벨리온에게 남은 시간은 오히려 더 분명해졌습니다. “나중에”가 아니라 바로 지금, 자신만의 자리와 시장을 증명해 보여야 할 시점입니다.