대규모 AI 시스템의 성능은 GPU 한 개의 연산 능력만으로 결정되지 않습니다. CPU가 데이터를 원활하게 공급해야 하고, 여러 GPU 사이에서는 계산 결과가 빠르게 오가야 합니다. 전력과 냉각 설계도 함께 최적화해야 많은 GPU를 안정적으로 가동할 수 있죠.
엔비디아는 일찍부터 GPU와 CPU, 네트워크, 냉각장치, 소프트웨어를 하나로 묶은 랙 단위 제품을 공급했습니다. NVL72가 대표적입니다. 고객은 부품을 따로 선정하고 호환성을 검증하는 대신, 통합된 시스템을 데이터센터에 설치할 수 있습니다.
AMD의 헬리오스도 같은 시장을 겨냥합니다. 인스팅트 MI455X GPU 72개와 6세대 에픽 ‘베니스’ CPU, 펜산도 네트워크, ROCm 소프트웨어를 하나의 랙으로 구성했습니다.
AMD에 따르면 헬리오스는 랙 전체에 약 31TB의 고대역폭메모리(HBM4)를 탑재하고, UALink 기반 네트워크로 72개 GPU를 연결합니다. 엔비디아의 베라 루빈 NVL72와 같은 체급에서 비교되는 제품인 셈입니다.
물론 사양표만 보고 어느 쪽이 우수하다고 결론 내리기는 어렵습니다. 실제 성능은 사용하는 AI 모델과 소프트웨어 최적화, 시스템 안정성에 따라 달라지기 때문입니다. 그래도 AMD가 GPU 단품 경쟁에서 벗어나 시스템 전체를 공급하기 시작했다는 점은 분명한 변화입니다.
헬리오스가 이전 AMD 제품보다 더 주목받는 이유는 고객이 붙었기 때문이기도 합니다.
마이크로소프트는 헬리오스를 기반으로 한 ‘ND MI455X v7’ 가상머신을 애저에 도입해 대규모 AI 추론에 활용할 계획입니다.
오픈AI와 메타도 AMD 인스팅트 GPU를 최대 6GW 규모로 배치하는 계약을 맺었습니다. 앤스로픽은 헬리오스 기반 MI450 계열 GPU를 최대 2GW 규모로 도입할 예정입니다.
이들이 AMD를 선택한 이유를 엔비디아보다 성능이 우수해서라고 단정하기는 어렵습니다. 빅테크에는 성능뿐 아니라 가격과 공급량, 협상력도 중요하거든요.
AI 인프라를 엔비디아에만 의존하면 제품 가격과 공급 일정, 기술 로드맵에서 선택지가 줄어듭니다. AMD가 일정 수준 이상의 성능과 안정성을 제공한다면 일부 물량을 배정하는 것만으로도 공급 위험을 낮출 수 있습니다.
AMD는 엔비디아를 완전히 대체하지 않아도 됩니다. 고객이 실제로 선택할 수 있는 ‘두 번째 공급자’가 되는 것만으로도 시장에 진입할 여지가 생기는 겁니다.
다만 엔비디아의 진짜 강점은 GPU뿐 아니라 CUDA를 중심으로 축적된 개발도구와 운영 경험입니다. AMD의 ROCm이 빠르게 개선되고 있지만, 헬리오스가 대규모 환경에서 안정적으로 작동하고 다양한 AI 모델에서 제 성능을 내려면 실제 운용 사례가 더 필요합니다.
헬리오스가 주목받는 것은 AMD가 엔비디아를 이미 이겼기 때문이 아닙니다. 엔비디아가 사실상 독점하던 랙 단위 AI 시스템 시장에 빅테크가 주문할 만한 대안이 등장했기 때문입니다.
엔비디아의 1등 자리는 여전히 단단합니다. 다만 AI 반도체 경쟁은 이제 GPU 한 장의 속도보다 랙 전체의 비용과 공급망, 소프트웨어를 비교하는 ‘시스템 대 시스템’ 경쟁으로 옮겨가는 듯 보입니다.
