AI 개발 서버:
128GB 통합 메모리
를 CPU와 GPU가 함께 사용
NVIDIA DGX Spark 전체 시스템은 한 고객에게만 할당되며 다른 고객과 공유되지 않습니다.
SSH 접속 · DGX OS에 CUDA 사전 설치
DGX Spark 한 대를 한 고객에게만 할당하며, 128GB 메모리 풀을 다른 고객과 공유하지 않습니다.
운영체제는 NVIDIA DGX OS(Ubuntu 24.04 기반)만 제공하며, 다음 NVIDIA AI 소프트웨어 스택이 사전 설치되어 있습니다. root 권한으로 필요한 도구를 직접 설치할 수 있으며, 모델은 사전 설치되지 않습니다.
한 대의 시스템, 확인 가능한 세 가지 핵심 정보
모델, 용량, 요금 산식이 모두 안내되어 있습니다. 전체 시스템을 단독으로 사용하므로 공유 GPU의 대기나 선점이 없습니다.
128GB LPDDR5x 통합 메모리
CPU와 GPU가 하나의 메모리 풀을 공유합니다. 모델 가중치, KV 캐시, CUDA 프로그램을 같은 풀에서 처리하므로 호스트 메모리와 장치 간에 데이터를 반복해서 복사할 필요가 없습니다.
GB10 Grace Blackwell 전체 시스템 단독 사용
NVIDIA DGX Spark 한 대를 한 고객에게만 제공하며 다른 고객과 공유하지 않습니다. 작업 대기나 다른 임차인의 선점 없이 사용할 수 있습니다.
설치비 없음 · 약정 없음 · 할인 없음
총액 = 이용 일수 × 하루 요금이며, 표시된 가격이 최종 가격입니다. 별도 초기 비용이나 최소 이용 기간은 없습니다.
가중치, KV 캐시, CUDA 프로그램을 하나의 풀에서
NVIDIA GB10 Grace Blackwell은 Grace CPU와 Blackwell GPU가 128GB LPDDR5x 통합 메모리를 함께 사용하도록 설계되었습니다. NVIDIA 공식 기준으로 이 메모리 풀은 양자화 추론 시 약 200B 파라미터, LoRA/QLoRA 미세 조정 시 약 70B 파라미터 모델을 지원합니다.
TcpNode 모델 규모 참고 자료 보기GB10 한 대를,한 고객에게만
드라이버와 도구 체인은 DGX OS에 준비되어 있으며, root 권한은 임차인에게 제공됩니다. 필요한 버전은 직접 설치할 수 있습니다.
Arm 20코어와 Blackwell GPU를 갖춘 전체 시스템 단독 사용
CPU는 10×Cortex-X925와 10×Cortex-A725로 구성되며 ARM64 아키텍처를 사용합니다. SSH로 접속하고 root 권한을 사용할 수 있습니다. 시스템을 다른 고객과 공유하지 않으므로 컴파일, 디버깅, 장시간 추론 작업에 대기열이 없습니다.
TcpNode DGX Spark 사양표 보기일 단위 과금, 청구 산식은 하나
DGX Spark는 1~365일 단위로 임대할 수 있습니다. 할인이나 약정 없이 설치비도 없습니다. 기간이 끝나면 시스템의 데이터가 삭제되므로 보관할 가중치, 코드, 로그는 종료 전에 직접 옮겨야 합니다.
TcpNode DGX Spark 자세히 보기한 대의 시스템으로 두 가지 작업 수행
운영체제는 NVIDIA DGX OS(Ubuntu 24.04 기반)이며, CUDA와 NGC 컨테이너를 바로 사용할 수 있습니다.
ARM64에서 CUDA 커널 컴파일 및 디버깅
CUDA 개발 환경이 운영체제와 함께 준비되어 있어 드라이버부터 차례로 설치할 필요가 없습니다. NGC 컨테이너를 사용해 배포할 수 있으며, ARM64 이미지를 바로 가져와 실행할 수 있습니다.
로컬 대규모 언어 모델 추론 및 미세 조정 실험
로컬 추론, LoRA 미세 조정, AI 애플리케이션 프로토타입 검증에 적합합니다. 모델은 사전 설치되지 않으며 가중치는 직접 다운로드해야 합니다. 1 Gbps 기준 40GB 다운로드에 약 5.5분이 걸립니다.
DGX Spark에 적합한 작업
사양과 운영체제가 고정되어 있으므로 주문 전에 다음 두 목록을 확인하세요.
적합한 작업
- CUDA 프로그램 개발 및 디버깅
- ARM64 컨테이너 배포 및 NGC 이미지 검증
- 로컬 대규모 언어 모델 추론 및 처리량 테스트
- LoRA 미세 조정 실험
- DGX OS 익히기 및 AI 애플리케이션 프로토타입 검증
적합하지 않은 작업
- x86 프로그램 및 Windows 실행(ARM64에서는 실행할 수 없음)
- 멀티 노드 클러스터 및 노드 간 통신을 사용하는 학습
- 대역폭 변경, IP 추가 또는 디스크 추가가 필요한 작업
- 메모리 업그레이드 또는 운영체제 변경이 필요한 작업
주문 전에 자주 묻는 질문
사용 기간이 끝나면 시스템의 데이터는 어떻게 처리되나요?
사용 기간이 끝나면 시스템의 데이터가 삭제됩니다. 보관할 모델 가중치, 코드, 로그는 종료 전에 다른 스토리지로 직접 옮겨야 합니다.
x86 프로그램이나 Windows를 실행할 수 있나요?
아니요. DGX Spark는 ARM64 아키텍처이며 NVIDIA DGX OS만 제공합니다. x86 이미지는 ARM64 버전으로 바꿔야 합니다.
모델이 사전 설치되어 있나요?
모델은 사전 설치되지 않습니다. CUDA, cuDNN, TensorRT 등 NVIDIA AI 소프트웨어 스택은 운영체제와 함께 준비되어 있으며, 모델 가중치는 직접 다운로드해야 합니다.
접속 정보는 어디에서 확인하고, 문제가 생기면 어떻게 요청하나요?
시스템이 제공된 후 콘솔의 시스템 상세 정보에서 IP와 로그인 정보를 확인하고 SSH로 접속할 수 있습니다. 장애, 강제 재부팅, 운영체제 재설치 요청은 콘솔에서 티켓으로 접수합니다.
DGX Spark 전체 장비, 하루 요금 $16.7
NVIDIA GB10 Grace Blackwell · 128GB LPDDR5x 통합 메모리 · 일본 도쿄 데이터센터
DGX Spark에서 CUDA 스트림 의존성과 버퍼 수명 검증하기
컴파일 가능한 이중 스트림 예제로 생산자와 소비자를 이벤트로 연결하고, 출력 전체와 버퍼 재사용 조건을 검증합니다.
AI 자동화DGX Spark CUDA 산출물 검증: GPU 대상 아키텍처와 PTX
실제 GPU 연산 능력에 맞춰 SASS와 PTX를 생성하고, 산출물 검사와 별도 실행으로 두 코드 경로를 확인합니다.
AI 자동화DGX Spark에서 CUDA 범위 초과 접근을 찾는 방법
의도적인 범위 초과 쓰기 예제로 소스 위치 추적, 비동기 오류 확인, 실패 종료 코드와 수정 후 검증을 연결합니다.
새 글을 준비 중입니다. 먼저 블로그 목록을 확인하세요.