AI & GPU

DGX H100 & HGX H100

Tech Crunchy 2025. 6. 5. 23:29
728x90

개요

DGX H100은 NVIDIA가 직접 설계·제조한 완제품으로, GPU, CPU, 메모리, 스토리지, 네트워킹 등 모든 하드웨어와 소프트웨어가 통합되어 즉시 사용할 수 있는 일체형 시스템입니다. 반면, HGX H100은 GPU, NVSwitch, NVLink 등 핵심 가속 모듈만 제공하는 플랫폼으로, 서버 제조사가 CPU, 메모리, 스토리지 등 나머지 부품을 자유롭게 선택해 구축하는 맞춤형 서버입니다.

 

내용

1. DGX H100

NVIDIA가 직접 설계·제조한 완제품 서버로, 8개의 H100 GPU, NVSwitch, 듀얼 x86 CPU, 최대 2TB 메모리, NVMe SSD 등 모든 하드웨어와 소프트웨어가 통합되어 있습니다. 설치 후 바로 AI/ML 워크로드에 사용할 수 있도록 최적화되어 있으며, NVIDIA의 엔터프라이즈 소프트웨어, 관리 툴, 지원 서비스까지 포함됩니다. 주로 AI 연구소, 대기업, 신속한 인프라 도입이 필요한 조직에서 사용합니다.


2. HGX H100

NVIDIA가 GPU와 NVSwitch를 모듈 형태로 공급하고, 서버 제조사(OEM)가 CPU, 메모리, 스토리지, 네트워크 등 나머지 부품을 자유롭게 구성하는 플랫폼입니다. CPU 종류, 메모리 용량, 스토리지 타입, 네트워크 인터페이스 등 다양한 커스터마이즈가 가능해 대규모 데이터센터나 슈퍼컴퓨터, 특수 목적 서버에 적합합니다. 주로 클라우드 사업자, 대형 데이터센터, 슈퍼컴퓨터 구축 기업 등 기술적 역량이 높은 곳에서 사용합니다.

 

 

728x90