엔비디아는 호퍼, 블랙웰에 이어 루빈이라는 이름으로 다시 한 번 판을 갈아엎고 있습니다. 루빈은 단순한 새 GPU가 아니라 6개의 칩을 한 세트로 설계한 AI 슈퍼컴퓨터 플랫폼입니다. CES 2026에서 발표된 루빈 플랫폼은 베라 CPU, 루빈 GPU, NVLink 6 스위치, ConnectX-9 네트워크 카드, 블루필드 4 DPU, 스펙트럼 6 이더넷 스위치까지 한 번에 공개됐고, 이 조합을 통해 블랙웰 대비 최대 10배 낮은 토큰당 비용으로 거대 모델 추론을 할 수 있다고 밝힌 상태입니다.

루빈의 성능

먼저 눈에 들어오는 것은 루빈 GPU의 순수 성능입니다. 루빈 GPU는 3360억 개의 트랜지스터를 집적했고, 블랙웰 세대보다 약 1.6배 많은 수준입니다. 여기에 HBM4 메모리를 288GB까지 실어 패키지 하나에서 초당 수십 테라바이트급 대역폭을 뽑아냅니다. 이 조합 하나가 NVFP4 기준 추론 성능 50페타플롭스, 학습 성능 35페타플롭스 수준을 내는데, 이는 직전 세대 GB200 대비 추론은 최대 5배, 학습은 3배 이상 향상된 수치입니다.

연결 성능도 완전히 다른 급입니다. 루빈 세대에서 처음 도입된 NVLink 6는 GPU 한 개당 3.6테라바이트 매초의 대역폭을 제공하고, 랙 전체로 보면 260테라바이트 매초까지 확장됩니다. 이는 여러 장의 GPU를 엮어서 거대 모델을 올릴 때 통신 병목을 대폭 줄여 주는 요소입니다. 루빈 NVL72 한 랙 안에는 베라 CPU와 루빈 GPU가 72개 들어가는데, 이 전체를 하나의 거대한 가속기처럼 취급할 수 있게 설계되어 있습니다.

토큰당 비용 절감

메모리와 연산 성능만 올라간 것이 아니라 아키텍처의 방향도 바뀌었습니다. 루빈 플랫폼은 혼합정밀도 연산에 최적화된 새로운 트랜스포머 엔진, 보안 기능을 강화한 랙 단위 기밀 컴퓨팅, 대규모 혼합전문가 모델을 전제로 한 RAS 엔진 등을 함께 도입했습니다. 엔비디아는 이 조합 덕분에 루빈 플랫폼이 블랙웰 대비 혼합전문가 모델 학습 시 필요한 GPU 수를 4분의 1로 줄이고, 토큰당 비용은 10분의 1 수준까지 낮출 수 있다고 설명합니다.

추론 영역에서는 루빈 CPX라는 별도 칩까지 준비했습니다. 루빈 CPX는 128GB GDDR7 메모리를 쓰는 전용 추론 GPU로, NVFP4 기준 최대 30페타플롭스를 내면서도 비용 효율이 높은 게 특징입니다. 프리필과 디코드 단계를 분리해서 CPX와 루빈 GPU에 각각 나눠 돌리는 구조를 전제로 만들어졌고, 긴 컨텍스트를 필요로 하는 LLM에서 블랙웰 기반 시스템보다 최대 세 배 수준의 어텐션 처리 속도를 낼 수 있다는 분석도 나와 있습니다.

베라 cpu는 무엇인가

이 모든 것을 묶어 주는 것이 베라 CPU입니다. 베라 CPU는 88개의 아머 기반 올림퍼스 코어와 자체 메모리 시스템을 갖춘 전용 AI 서버용 프로세서로, 루빈 GPU와 NVLink 6, 스펙트럼 6 스위치와 함께 하나의 랙 단위 시스템을 이루도록 설계되었습니다. CPU와 GPU, 네트워크, DPU까지 한 세대에 맞춰 동시에 새로 설계하는 이 극단적 코드디자인이야말로 루빈 플랫폼의 본질입니다. 단일 칩이 아니라 데이터센터 전체를 하나의 칩처럼 통제하려는 시도라고 볼 수 있습니다.

결국 질문은 이것입니다. 이런 스펙과 설계가 엔비디아의 왕좌를 지켜 줄 만큼 압도적인가. 경쟁사들을 보면 AMD가 HBM4 기반 헬리오스, 인텔과 여러 클라우드 사업자들이 자체 가속기를 앞세워 추격 중이고, 일부 하이퍼스케일러는 자체 ASIC으로 특정 워크로드에서 비용 우위를 노리고 있습니다. 그러나 여전히 거대 언어모델과 에이전트형 AI를 동시에 소화하려는 기업 입장에서 보면, GPU 성능과 NVLink, 고성능 네트워크, 소프트웨어 스택까지 한 번에 제공되는 플랫폼은 엔비디아밖에 없는 것이 현실입니다. 루빈은 이 격차를 한 번 더 벌리려는 시도에 가깝습니다.

명확한 성능향샹

성능만 놓고 봐도 루빈은 최소한 블랙웰 대비 명확한 세대 차이를 보여 줍니다. 추론 성능 5배, 토큰당 비용 10분의 1, 동일 작업을 4분의 1의 GPU로 처리할 수 있다는 메시지는 AI 인프라를 직접 구축하는 기업들에게 매우 직관적인 숫자입니다. 특히 에이전트형 서비스처럼 사용자별 기억을 크게 쌓아야 하는 workload에서는 루빈의 고대역폭 메모리 계층과 NVLink 6 구조가 장점으로 작용할 가능성이 큽니다.

소프트웨어로 고정 고객을 만드는 엔비디아

또 하나 간과하기 쉬운 부분이 소프트웨어입니다. 엔비디아는 루빈 세대와 함께 다이나모 같은 새로운 추론 프레임워크를 내놓고, 프리필과 디코드를 서로 다른 GPU 클러스터에 분산시키는 구조를 공식 지원하기 시작했습니다. 하드웨어 성능뿐 아니라 이 성능을 실제 서비스 비용 절감으로 연결해 주는 소프트웨어가 같이 진화하고 있다는 뜻입니다. CUDA, 쿠다 그래프, 텐서RT, 네모, 오픈 모듈 등 수년간 쌓은 생태계 위에 루빈 세대 최적화가 그대로 이어지기 때문에, 기존 엔비디아 고객 입장에서는 다른 플랫폼으로 갈아타기보다 루빈으로 업그레이드하는 것이 훨씬 자연스러운 선택이 됩니다.

물론 루빈이 만능 열쇠는 아닙니다. 칩당 트랜지스터와 메모리 용량이 폭증한 만큼 한 랙당 전력과 발열도 더 커졌고, 전면 수랭 방식으로만 운영되는 NVL72 시스템은 데이터센터 인프라 측면에서 진입 장벽이 높습니다. GPU 한 장 가격과 랙 전체의 총소유비용도 아직 공개되지 않았지만, 블랙웰 세대보다 훨씬 높을 가능성이 큽니다. 결국 이 칩이 진짜로 왕좌를 지키느냐는, 고객이 실제로 이 비용을 감수하고도 루빈을 선택할 만큼의 생산성 향상을 체감할 수 있는지에 달려 있습니다.

그럼에도 현재 시점에서 냉정하게 보면, 2026년 이후 AI 데이터센터의 기준은 루빈이 될 가능성이 높습니다. 경쟁사들의 도전이 거세지만, 엔비디아는 매년 새로운 아키텍처를 내놓는 속도와 GPU부터 네트워크, 소프트웨어까지 아우르는 플랫폼 전략에서 한발 앞서 있습니다. 루빈은 이 격차를 더 벌릴 수 있는 스펙과 구조를 갖추고 있고, 이미 마이크로소프트와 HPE, 코어위브 같은 파트너들이 차세대 AI 공장에 루빈 기반 시스템을 쓰겠다고 선언한 상태입니다.

이 글은 엔비디아 주식이나 루빈 플랫폼에 대한 투자 권유가 아니라, 새로 공개된 루빈 칩의 구조와 숫자를 바탕으로 왜 다시 한 번 왕좌를 지킬 후보로 평가받는지 정리한 것입니다. 실제 시장에서는 전력, 비용, 소프트웨어 호환성, 경쟁사 제품의 완성도까지 여러 변수가 동시에 작용할 것입니다. 다만 하나는 분명해 보입니다. 2026년 이후 AI 인프라를 이야기할 때 루빈이라는 이름을 빼고 말하기는 매우 어려워졌다는 점입니다.