책상 옆에 놓는 슈퍼컴퓨터, DGX Station GB300은 24.9만 달러의 가치를 하나

NVIDIA가 2025년 초 공개한 DGX Station GB300은 단일 워크스테이션 형태로 데이터센터급 AI 컴퓨팅 성능을 책상 옆에 배치할 수 있도록 설계된 제품이다. GB300 Grace Blackwell Superchip을 탑재한 이 시스템은 연구자와 기업 AI 개발팀이 클라우드 의존 없이 대규모 모델을 로컬에서 훈련·추론할 수 있는 환경을 제공한다.

워크스테이션이 아니라 아키텍처 전환

DGX Station GB300은 NVIDIA DGX Station 제품군의 최신 세대로 GB300 Grace Blackwell Superchip을 기반으로 한다. 개인용 AI 슈퍼컴퓨터(Personal AI Supercomputer), 데스크사이드(Deskside) 폼팩터로 포지셔닝됐고, 타깃은 AI 연구자, 데이터 과학자, 기업 내 AI 개발팀, 대학 연구실이다. 전작과의 차별화는 단순한 워크스테이션 업그레이드가 아닌 아키텍처 전환이라는 데 있다 — NVLink 기반 밀결합 구조로 GPU 간 초고속 통신을 지원하고, NVIDIA DGX OS(Ubuntu 기반)와 전체 소프트웨어 스택이 번들로 제공되며, 데이터센터 구축 없이 연구소 내 배치가 가능해 AI 인프라 접근성을 넓힌다.

Grace와 Blackwell을 하나로 묶은 패키지

GPU 구성은 NVIDIA Blackwell GPU 아키텍처(B200 후속 GB300 계열)이고, CPU는 ARM 기반 Grace CPU를 Blackwell GPU와 단일 패키지로 통합했다. HBM3e 메모리를 탑재해 전 세대 대비 대역폭이 대폭 향상됐고, GPU 간에는 NVLink-C2C 인터커넥트를, CPU-GPU 사이에는 통합 메모리 구조를 적용했다. CPU와 GPU가 동일한 메모리 풀을 공유해 데이터 복사 오버헤드를 없앴고, Transformer Engine 내 FP8 정밀도를 지원해 대형 모델 추론을 가속하며, 이전 세대 대비 와트당 성능이 대폭 개선됐다. 스토리지는 NVMe SSD 기반 고속 로컬 스토리지로 AI 데이터셋 고속 로딩을 지원하고, 네트워킹은 InfiniBand·이더넷 인터페이스로 다중 노드 확장이 가능하다.

⤢✕

A100 대비 10배, H100 대비 4배

DGX Station A100과 비교하면 AI 훈련 처리량이 FP8 기준 최대 10배 이상 향상됐고, 메모리는 HBM2e에서 HBM3e로 용량·대역폭이 모두 늘었으며, A100의 x86 별도 CPU 구성이 GB300에서는 Grace CPU 통합으로 구조적으로 단순화됐다. 소비 전력 대비 성능(TFLOPS/W)은 2배 이상 개선됐고, 데스크사이드 폼팩터는 유지하면서 성능 밀도가 대폭 향상됐다.

DGX Station H100과 비교하면 Transformer Engine이 고도화돼 FP8 지원 범위가 확대·최적화됐고, 메모리 대역폭은 H100의 HBM2e/HBM3 대비 HBM3e 도입으로 병목이 해소됐다. CPU-GPU 연결은 PCIe/NVLink 혼용에서 NVLink-C2C로 전면 전환됐고, LLM 추론 토큰 처리량 기준 최대 3~4배 향상됐다(모델 크기에 따라 상이). 소프트웨어 생태계에서도 H100 대비 NVIDIA NIM 마이크로서비스 지원이 강화됐다.

항목	DGX Station A100	DGX Station H100	DGX Station GB300
GPU 아키텍처	Ampere	Hopper	Blackwell
메모리 타입	HBM2e	HBM3	HBM3e
CPU 통합	x86 별도	x86 별도	Grace ARM 통합
FP8 지원	미지원	부분 지원	완전 지원
대형 모델 추론	기준	~2배	68배

데이터센터 없이 얻는 것들

물리적 접근성 측면에서는 데이터센터 공간, 전용 냉각 인프라, 특수 전력 설비가 필요 없고 사무실·연구실의 일반 전원·공조 환경에서 운용할 수 있으며, 크기도 일반 타워형 워크스테이션 수준이다. 데이터 주권·보안 측면에서는 의료·금융·국방 같은 민감 데이터를 클라우드로 전송하지 않고 로컬에서 처리하고, 외부 네트워크를 차단한 에어갭(Air-gap) 환경 구성도 가능해 GDPR·HIPAA 같은 내부 규정·규제 준수가 쉬워진다. 경제적 효율성 면에서는 클라우드 AI 컴퓨팅 대비 장기 TCO(총소유비용)가 절감되고, 반복적 실험 환경에서 시간당 과금 없이 지속 활용할 수 있어 온프레미스·클라우드 하이브리드 전략의 핵심 노드 역할을 한다. 연구 생산성 측면에서는 클라우드 인스턴스 프로비저닝 대기 없이 즉시 실행할 수 있어 실험 주기가 짧아지고, 팀 내 공유 자원으로 협업 연구 환경을 구성할 수 있으며 모델 체크포인트를 로컬 저장하고 즉각 재개할 수 있다.

대학 연구실부터 국방 기관까지

AI 연구기관·대학에서는 70B~405B 파라미터 모델의 대형 언어 모델(LLM) 로컬 파인튜닝, 텍스트-이미지-비디오 통합 멀티모달 모델 실험, 반복적 하이퍼파라미터 탐색·아블레이션 같은 기초 연구, 공개 모델 성능 측정·비교 연구에 쓰인다. 기업 AI 개발팀에서는 기업 데이터 기반 사내 전용 LLM 구축, RAG(Retrieval-Augmented Generation) 파이프라인 구축·운용, 자율 작업 수행 에이전트 프로토타입·프로덕션 배포, 소스코드 외부 유출 없는 코파일럿 시스템 사내 배포에 활용된다.

의료·생명과학에서는 DICOM 데이터를 로컬 처리해 HIPAA를 준수하는 의료 영상 분석 모델 훈련, 단백질 구조 예측·분자 생성 모델 실험, 환자 데이터를 외부 전송 없이 다루는 임상 데이터 분석에 쓰이고, 국방·정부기관에서는 에어갭 환경에서의 기밀 데이터 처리, 에지(Edge) 수준의 실시간 영상 분석, 내부망 트래픽 분석 모델의 로컬 운용에 쓰인다. 콘텐츠·미디어 분야에서는 고해상도 이미지·비디오 생성 모델 운용, VFX·게임 개발 파이프라인에 통합된 실시간 AI 렌더링, 대용량 TTS/STT 모델의 로컬 배포에 활용된다.

⤢✕

소프트웨어 스택은 OS 레이어의 DGX OS(Ubuntu LTS 기반 최적화 배포판), Docker와 NVIDIA Container Toolkit으로 구성된 컨테이너 런타임, PyTorch·TensorFlow·JAX(CUDA 최적화 빌드) AI 프레임워크, cuDNN·cuBLAS·TensorRT·NCCL 같은 NVIDIA 전용 라이브러리, NVIDIA NeMo·Megatron-LM 같은 대형 모델 프레임워크, NVIDIA Triton Inference Server·NIM 마이크로서비스로 이뤄진 추론 서버, DCGM(Data Center GPU Manager)과 Prometheus 연동 모니터링으로 구성된다.

24만 9천 달러, 그리고 대기 기간

공식 소비자 가격(MSRP)은 공개 기준 미화 약 249,000달러(구성에 따라 변동)이며, DGX Station H100의 출시가 약 149,000달러와 비교하면 전작 대비 고성능·고가 포지셔닝이다. OEM 파트너와 NVIDIA 공식 채널을 통한 맞춤 견적이 가능하고, 엔터프라이즈 고객 대상 리스·금융 옵션도 운용된다.

발표는 2025년 GTC(GPU Technology Conference)에서 공식적으로 이뤄졌고, 출하는 2025년 하반기부터 순차적으로 시작됐다(초기 물량 한정). 공급 채널은 NVIDIA 공식 스토어, NVIDIA 공인 리셀러, Dell·HP·Lenovo 등 OEM 파트너이며, 지역은 북미 우선 출시 후 APAC·EMEA로 순차 확대됐다. 수요 집중으로 대기 기간이 발생할 수 있어 사전 예약이 권장된다.

구매를 고려한다면 단상·삼상 전력 공급 환경을 사전 확인해야 하고, 고성능 운용 시 충분한 공기 순환 공간을 확보해야 하며, DGX OS·NVIDIA AI Enterprise 라이선스 포함 여부를 확인하고, NVIDIA Enterprise Support 계약을 통한 하드웨어·소프트웨어 통합 지원 여부도 살펴봐야 한다.

Grace Blackwell Superchip의 통합 아키텍처, HBM3e 메모리, NVLink-C2C 인터커넥트가 결합되면서 기존 데이터센터에서만 가능했던 대규모 AI 워크로드를 연구실과 기업 사무실 수준에서 처리할 수 있는 환경이 마련됐다. 데이터 보안 규제가 강화되고 AI 모델 개발 속도 경쟁이 치열해지는 지금, 로컬 고성능 AI 컴퓨팅 자원의 전략적 가치는 더욱 높아질 것으로 전망된다.