엔비디아, 양산 사양에서 루빈의 메모리·NVLink 대역폭 하향

엔비디아가 양산 하드웨어가 도착하는 시점에 맞춰 루빈(Rubin) AI 가속기의 공개 사양을 수정했다. GPU당 메모리 대역폭과 NVLink 스케일업 대역폭은 예비 수치보다 낮아졌고, 스케일아웃 네트워킹 대역폭은 높아졌다. 연산 성능과 메모리 용량은 그대로다. 변경은 엔비디아의 이전·현재 제품 페이지를 비교한 매체들이 먼저 확인했으며, ServeTheHome에 따르면 엔비디아는 그 이유를 밝히지 않았다.

무엇이 바뀌었나

ServeTheHome에 따르면 엔비디아는 당초 루빈 GPU당 22TB/sec의 메모리 대역폭을 목표로 했다. 엔비디아의 현재 Vera Rubin NVL72 페이지는 단일 루빈 GPU에 대해 HBM4 288 GB와 19.2 TB/s, NVLink 3 TB/s, 네트워킹 0.45 TB/s를 표기한다. 예비 수치는 NVLink 3.6TB/sec, 네트워킹 0.4TB/sec였다.

수치가 의미하는 것

이 수치들은 적용 단위가 서로 달라 단순 비교할 수 없다. GPU 72개가 들어가는 NVL72 랙은 이제 총 메모리 대역폭 1,400 TB/s(기존 1580TB/sec), NVLink 216 TB/s(기존 260TB/sec), 네트워킹 32.4 TB/s(기존 28.8TB/sec)로 표기된다. GPU 8개짜리 HGX Rubin NVL8은 더 크게 줄었다. HBM4 용량은 2.3TB에서 2.0TB로, 대역폭은 176TB/sec에서 130TB/sec로 낮아졌고, NVFP4 학습 성능은 280 PFLOPS에서 270 PFLOPS가 됐다. NVFP4 추론 50 PFLOPS 등 루빈 GPU의 연산 수치는 바뀌지 않았다.

엔비디아는 독일 매체 PC Games Hardware(Wccftech 경유)에 수정된 데이터시트가 양산 상태를 반영하며 이전 값은 개발 목표치였다고 밝힌 것으로 전해졌다. 이는 엔비디아 측 설명이며 독립적으로 확인하지는 못했다. 이전 수치가 예비 값으로 표시돼 있었으므로, 이미 출하된 사양의 철회가 아니라 목표치의 정정에 가깝다.

왜 중요한가

대규모 모델 추론에서는 메모리 대역폭이 병목이 되는 경우가 많아, 최대 FLOPS가 그대로여도 대역폭 하락은 의미가 크다. NVLink 대역폭은 랙이 하나의 거대한 가속기처럼 동작하는 정도를 좌우한다. 스케일아웃 네트워킹을 늘린 것은 랙 간 통신과 랙 내 통신의 균형을 바꾼다. 루빈을 경쟁 랙 설계와 비교하는 구매자는 수정된 수치를 기준으로 삼아야 한다.

관전 포인트

양산 루빈 시스템의 독립 벤치마크가 낮아진 대역폭이 실제 작업에 미치는 영향을 보여줄 것이다. 엔비디아가 이유를 설명할지, 파트너 시스템이 기존 수치와 새 수치 중 무엇을 표기할지도 지켜볼 대목이다.