AI开发主机,
128GB 统一内存
由 CPU 与 GPU 共用

NVIDIA DGX Spark 整机归一个客户,不与他人共享。

SSH 接入 · DGX OS 预装 CUDA

芯片GB10 Grace Blackwell
内存128GB LPDDR5x 统一内存
存储4TB NVMe
网络1 Gbps 不限流量
RENTAL SHEET · GB10整机租用单 · NVIDIA DGX Spark
整机独享
芯片GB10 Grace Blackwell
CPU20 核 Arm · ARM64
存储4TB NVMe
网络1 Gbps 不限流量
地址1 个固定 IPv4
系统NVIDIA DGX OS
免安装费无合约
应付 = 天数 × 日价$16.7/天
CUDA cuDNN TensorRT DGX OS 预装
单一租户

一台 DGX Spark 只分配给一个客户,128GB 内存池不与他人共享。

系统只有 NVIDIA DGX OS(基于 Ubuntu 24.04),预装以下 NVIDIA AI 软件栈;root 权限可自装其余工具,不预装任何模型

一台整机,三件可以逐项核对的事

型号、容量与计费公式都写在目录里。共享 GPU 的排队与抢占,在整机独享的机器上不会出现。

128GB LPDDR5x 统一内存

CPU 与 GPU 共用同一内存池,模型权重、KV 缓存与 CUDA 程序在一池内调度,不必在主机内存与设备之间来回拷贝。

GB10 Grace Blackwell 整机独享

一台 NVIDIA DGX Spark 只交给一个客户使用,不与他人共享。任务不排队,也不会被其他租户抢占。

免安装费、无合约、不打折

应付 = 天数 × 日价,目录价即成交价,没有一次性费用,也没有最低在用期。

UNIFIED MEMORY

权重、KV 缓存与 CUDA 程序共处一池

NVIDIA GB10 Grace Blackwell 把 128GB LPDDR5x 统一内存同时交给 Grace CPU 与 Blackwell GPU 寻址。按 NVIDIA 官方口径,这一池可承载约 200B 参数的量化推理,或约 70B 参数的 LoRA/QLoRA 微调。

查看 TcpNode 模型规模对照
模型权重 KV 缓存 CUDA 程序 余量 占比为示意,随负载变化
量化推理
约 200B 参数
LoRA / QLoRA 微调
约 70B 参数
规模参考按 NVIDIA 官方口径

一台 GB10,只归一个客户

驱动与工具链随 DGX OS 就绪,root 权限保留给租用方,需要的版本可自行安装。

GB10 · ARM64

20 核 Arm 与 Blackwell GPU 整机独享

CPU 为 10×Cortex-X925 加 10×Cortex-A725,ARM64 架构,经 SSH 接入并持有 root 权限。机器不与他人共享,编译、调试与长时间推理都不需要排队。

查看 TcpNode DGX Spark 铭牌
NVIDIA DGX SparkSPEC PLATE
芯片NVIDIA GB10 Grace Blackwell
CPU20 核 Arm(10×Cortex-X925 + 10×Cortex-A725)
架构ARM64
内存128GB LPDDR5x 统一内存
存储4TB NVMe
网络1 Gbps 不限流量
地址1 个固定 IPv4
系统NVIDIA DGX OS
接入SSH · root 权限
DAILY RATE

按天计费,账单只有一条公式

DGX Spark 只按天租用,1–365 天任选,不打折、免安装费、无合约。到期后整机数据清除,需要保留的权重、代码与日志在到期前自行转出。

了解 TcpNode DGX Spark
$16.7/天
应付=天数×日价
1–365 天免安装费无合约不打折美元结算
到期后数据清除:权重、代码与日志需在到期前自行转出

两类工作,在同一台机器上展开

系统为 NVIDIA DGX OS(基于 Ubuntu 24.04),CUDA 与 NGC 容器开箱可用。

CUDA DEBUG

在 ARM64 上编译与调试 CUDA 内核

CUDA 开发环境随系统就绪,不必从驱动开始逐层安装。用 NGC 容器完成 container deployment,ARM64 镜像可直接拉取运行。

系统NVIDIA DGX OS(基于 Ubuntu 24.04)
架构ARM64
部署方式NGC 容器
INFERENCE · LoRA

本地大模型推理与微调实验

适合本地推理、LoRA 微调与 AI 应用原型验证。机器不预装任何模型,权重由租用方自行下载,1 Gbps 理论值下 40GB 约 5.5 分钟。

预装模型无,自行下载
40GB 权重下载约 5.5 分钟 @ 1 Gbps
推理框架vLLM · Ollama · PyTorch

哪些工作适合放到 DGX Spark 上

规格固定、系统固定,下单前先对照这两张清单。

适合

  • CUDA 程序开发与调试
  • ARM64 容器部署与 NGC 镜像验证
  • 本地大模型推理与吞吐测试
  • LoRA 微调实验
  • DGX OS 上手与 AI 应用原型验证

不适合

  • x86 程序与 Windows,ARM64 无法运行
  • 多机集群与跨机互联训练
  • 需要改带宽、加 IP 或加盘的场景
  • 需要升级内存或更换系统的场景

下单前常被问到的几件事

到期后机器上的数据怎么处理

到期后整机数据清除。需要保留的模型权重、代码与日志,在到期前自行转出到其他存储。

能否运行 x86 程序或 Windows

不能。DGX Spark 为 ARM64 架构,系统只有 NVIDIA DGX OS,x86 镜像需改用 ARM64 版本。

是否预装模型

不预装任何模型。CUDA、cuDNN、TensorRT 等 NVIDIA AI 软件栈随系统就绪,模型权重自行下载。

凭据在哪里取,出了问题找谁

交付后在控制台的机器详情中查看 IP 与登录凭据,经 SSH 接入。故障、硬重启与重装系统均在控制台提交工单处理。

DGX Spark 整机,日价 $16.7

NVIDIA GB10 Grace Blackwell · 128GB LPDDR5x 统一内存 · 机房位于日本东京

租用 TcpNode DGX Spark