量化模型推理
约 200B 参数
按 NVIDIA 官方口径，DGX Spark 可作为这一规模量化模型推理的参考平台。模型格式、量化精度与推理框架决定实际资源需求。
用于判断实验方向，不代表所有 200B 模型均可按相同配置运行。
CUDA 开发与调试
DGX租赁：NVIDIA GB10 Grace Blackwell 整机独享
TcpNode 将一台 NVIDIA DGX Spark 整机分配给一个客户，不与他人共享；用于 CUDA 开发与调试、本地推理、微调实验和 AI 原型验证。
SSH 接入 · NVIDIA DGX OS 预装 CUDA
整机租用单
单一租户
128GB
LPDDR5x 统一内存
CPU 与 GPU 共用
NVIDIA DGX OSARM64
硬件与交付目录
固定规格，按整机交付
TcpNode DGX Spark 不拆分 CPU、GPU 或内存配额。存储、网络和地址随整机提供，下单时选择租用天数，不进行硬件选配。
NVIDIA DGX Spark
芯片、内存与系统共同构成 ARM64 开发环境。
- 超级芯片
- NVIDIA GB10 Grace Blackwell
- 处理器
- 20 核 Arm：10×Cortex-X925 + 10×Cortex-A725
- 统一内存
- 128GB LPDDR5x，由 CPU 与 GPU 共用
- 本地存储
- 4TB NVMe
- 网络
- 1 Gbps 不限流量
- 公网地址
- 1 个固定 IPv4
- 操作系统
- NVIDIA DGX OS，基于 Ubuntu 24.04
- 指令集架构
- ARM64
从开发环境开始
CUDA 与 AI 软件栈随系统提供
NVIDIA DGX OS 包含 CUDA 与 NVIDIA AI 软件栈。TcpNode 提供 root 权限，可按项目需求安装其余工具；不预装任何模型，权重与数据集由租用方自行准备。
CUDA
程序编译与调试
cuDNN
深度学习计算库
TensorRT
推理优化工具
NGC
ARM64 容器资源
PyTorch
模型开发框架
vLLM
推理服务实验
Ollama
本地模型运行
软件与容器需选择适配 ARM64、GB10 和当前 CUDA 环境的版本。项目依赖与模型支持范围应在部署前核对，不能直接以 x86 镜像替代 ARM64 镜像。
模型规模参考
容量评估从统一内存开始
128GB 是 CPU 与 GPU 共用的统一内存，不是独立显存。模型权重之外，KV 缓存、运行时、上下文长度与并发请求也需要计入内存预算。
LoRA / QLoRA 微调
约 70B 参数
按 NVIDIA 官方口径，可开展这一规模的参数高效微调实验。训练序列长度、批大小与优化器设置仍需结合项目验证。
该参考不等同于全参数训练能力，也不构成吞吐或完成时间承诺。
租期与费用
日价固定，按实际选择的天数算账
TcpNode DGX Spark 日价为 $16.7/天，租用范围为 1–365 天。不打折、免安装费、无合约，不设置月付、季付、半年付或年付周期。
$16.7/天
应付 = 天数 × 日价
1 天租期
$16.7
1 × $16.7 = $16.7
7 天租期
$116.9
7 × $16.7 = $116.9
30 天租期
$501.0
30 × $16.7 = $501.0
30 天仅是天数算例，不是月付套餐。租用天数在独立下单页配置，费用以美元结算；到期后数据清除，数据转出应纳入实验计划。
先核对项目条件
以 ARM64 开发与单机实验为边界
选型先核对指令集、系统和资源扩展要求，再评估模型规模。整机独享不改变软件兼容性，也不改变固定硬件规格。
适合开展的工作
- CUDA 程序开发与调试：在 ARM64 平台编译内核、验证依赖并检查程序行为。
- ARM64 容器部署：围绕适配的容器镜像与 NVIDIA 软件栈验证部署流程。
- 本地大模型推理：自行下载权重，评估内存占用、上下文与服务配置。
- 微调与原型验证：开展 LoRA / QLoRA 实验，联调 AI 应用组件。
不适用的项目条件
- x86 程序或镜像：ARM64 环境不能直接运行 x86 程序。
- Windows 工作流：DGX Spark 只提供 NVIDIA DGX OS，不安装 Windows 或其他发行版。
- 多机集群：本产品提供单台整机，不提供多机集群方案。
- 需要扩展硬件：不改带宽、不加 IP、不加盘，也不升级内存。
模型由项目自行准备
将权重下载计入实验安排
DGX Spark 不预装模型。以下按 1 Gbps 理论链路速率估算文件传输时间，仅用于规划下载规模，不是实际下载速度或交付时长承诺。
| 文件总量 | 理论耗时参考 | 估算基准 |
|---|---|---|
| 40GB | 约 5.5 分钟 | 1 Gbps 理论速率 |
| 100GB | 约 14 分钟 | 1 Gbps 理论速率 |
| 140GB | 约 19 分钟 | 1 Gbps 理论速率 |
实际耗时受下载源、链路、协议开销和并发影响，还需另计解压、校验与模型加载时间。4TB NVMe 同时承载系统、容器、权重与实验输出，部署前应预留工作空间。
数据与机器操作
到期前完成数据转出
DGX Spark 到期后数据清除。需要保留的权重、代码、数据集、配置与日志，应由租用方在到期前自行转出并确认备份可用，不以机器内的另一份文件代替独立备份。
实验结束前检查产物
除最终模型外，还应检查微调适配器、依赖清单、容器构建文件与复现实验所需配置。转出完成后再核对文件完整性，避免只保留运行截图而遗漏实际产物。
硬重启与重装经工单处理
本机无 BMC / IPMI。硬重启与重装系统通过控制台工单申请；涉及重装时，应先说明操作目标并自行备份。交付后的地址与登录凭据在控制台查看，日常经 SSH 接入。
进入下单前
三项条件决定项目是否适配
以下条件会在 TcpNode DGX 下单页再次确认。本页仅介绍产品，不提交订单，也不处理付款。
- 01
确认 ARM64 架构
不能运行 x86 程序或 Windows。业务代码、二进制依赖与容器镜像均应核对 ARM64 支持。
- 02
确认 DGX OS 系统
系统只有 NVIDIA DGX OS，基于 Ubuntu 24.04 并包含 CUDA 栈，不安装其他发行版。
- 03
确认到期清除数据
到期后数据清除。需保留的权重、代码与日志应在租期结束前转出，备份由租用方负责。
确认适配后，配置 DGX 租用天数
TcpNode DGX Spark 日价 $16.7，租用范围 1–365 天。下一页选择天数、确认使用条件并下单。