Разработка и отладка CUDA

Аренда DGX Spark: отдельная система NVIDIA GB10 Grace Blackwell

TcpNode выделяет одну NVIDIA DGX Spark для одного клиента без совместного использования. Система подходит для разработки и отладки CUDA, локального инференса, экспериментов с дообучением и проверки прототипов ИИ.

Доступ по SSH · NVIDIA DGX OS с предустановленной CUDA

Комплектация системы Один клиент
128GB Унифицированная память LPDDR5x Общая для CPU и GPU
Единый пул памяти для весов моделей, KV-кэша и программ CUDA. Деления показывают общую структуру памяти, а не фиксированные области заданного объёма.
NVIDIA DGX OSARM64
Оборудование и комплектация

Фиксированная конфигурация, вся система целиком

NVIDIA DGX Spark от TcpNode предоставляется без разделения ресурсов CPU, GPU и памяти. Накопитель, сеть и IP-адрес входят в состав системы. При оформлении выбирается только срок аренды — менять комплектацию нельзя.

NVIDIA DGX Spark

Чип, память и система вместе образуют среду разработки на ARM64.

Суперчип
NVIDIA GB10 Grace Blackwell
Процессор
20 ядер Arm: 10×Cortex-X925 + 10×Cortex-A725
Унифицированная память
128GB LPDDR5x, общая для CPU и GPU
Локальное хранилище
4TB NVMe
Сеть
1 Gbps, без ограничений по трафику
Публичный адрес
1 фиксированный IPv4
Операционная система
NVIDIA DGX OS на базе Ubuntu 24.04
Архитектура
ARM64
Готовая среда разработки

CUDA и программный стек ИИ уже в системе

NVIDIA DGX OS включает CUDA и программный стек NVIDIA AI. TcpNode предоставляет root-доступ для установки дополнительных инструментов под задачи проекта. Модели не предустановлены: веса и наборы данных готовятся самостоятельно.

CUDA

Компиляция и отладка программ

cuDNN

Библиотека для глубокого обучения

TensorRT

Оптимизация инференса

NGC

Контейнеры для ARM64

PyTorch

Фреймворк для разработки моделей

vLLM

Эксперименты с инференсом

Ollama

Локальный запуск моделей

Для ПО и контейнеров необходимо выбирать версии, совместимые с ARM64, GB10 и текущей средой CUDA. Совместимость зависимостей и моделей следует проверить до развёртывания: образ для x86 не заменяет образ для ARM64.

Оценка масштаба моделей

Оценка ресурсов начинается с унифицированной памяти

128GB — это унифицированная память, общая для CPU и GPU, а не отдельная видеопамять. Помимо весов модели, в расчёт входят KV-кэш, среда выполнения, длина контекста и параллельные запросы.

Инференс квантованных моделей

Около 200B параметров

По оценке NVIDIA, DGX Spark можно использовать как ориентир для инференса квантованных моделей такого масштаба. Фактические требования к ресурсам зависят от формата модели, точности квантования и фреймворка инференса.

Ориентир для планирования эксперимента, а не гарантия запуска любых моделей на 200B с одинаковыми настройками.

Дообучение LoRA / QLoRA

Около 70B параметров

По оценке NVIDIA, доступны эксперименты с эффективным дообучением моделей такого масштаба. Длину обучающих последовательностей, размер пакета и настройки оптимизатора необходимо проверять для конкретного проекта.

Этот ориентир не означает возможность полного обучения модели и не гарантирует скорость обработки или срок выполнения.

Срок аренды и стоимость

Фиксированная цена в сутки, оплата за выбранный срок

Аренда TcpNode DGX Spark стоит $16.7 в сутки, срок — от 1 до 365 дней. Скидок и платы за установку нет, договор не требуется. Месячных, квартальных, полугодовых и годовых тарифных периодов нет.

$16.7/сутки

К оплате = количество дней × цена в сутки

1 день

$16.7

1 × $16.7 = $16.7

7 дней

$116.9

7 × $16.7 = $116.9

30 дней

$501.0

30 × $16.7 = $501.0

Пример на 30 дней — это только расчёт стоимости, а не месячный тариф. Срок аренды указывается на отдельной странице оформления. Расчёт производится в долларах США; по окончании срока данные удаляются, поэтому перенос данных следует включить в план эксперимента.

Проверьте требования проекта

Для разработки на ARM64 и экспериментов на одной системе

Перед выбором оборудования проверьте архитектуру, операционную систему и требования к расширению ресурсов, затем оцените масштаб моделей. Выделенная целиком система не меняет совместимость ПО и фиксированную конфигурацию оборудования.

Подходящие задачи

  • Разработка и отладка CUDA: компиляция ядер на ARM64, проверка зависимостей и поведения программ.
  • Развёртывание контейнеров ARM64: проверка процесса развёртывания с совместимыми образами и программным стеком NVIDIA.
  • Локальный инференс больших моделей: самостоятельная загрузка весов и оценка использования памяти, контекста и конфигурации сервиса.
  • Дообучение и прототипирование: эксперименты с LoRA / QLoRA и интеграция компонентов приложений ИИ.

Не подходит для задач

  • Программ и образов для x86: среда ARM64 не запускает программы для x86 напрямую.
  • Рабочих процессов Windows: доступна только NVIDIA DGX OS; Windows и другие дистрибутивы не устанавливаются.
  • Многомашинных кластеров: предоставляется одна система, решения для кластеров из нескольких машин не предлагаются.
  • Расширения оборудования: нельзя увеличить пропускную способность сети, добавить IP-адрес или накопитель, а также нарастить память.
Модели готовятся самостоятельно

Запланируйте загрузку весов

Модели не предустановлены на DGX Spark. Ниже приведена теоретическая оценка времени передачи файлов при скорости канала 1 Gbps. Она помогает оценить объём загрузок, но не является прогнозом фактической скорости или сроков предоставления системы.

Общий размер файловТеоретическое времяРасчётная скорость
40GBОколо 5.5 минутТеоретическая скорость 1 Gbps
100GBОколо 14 минутТеоретическая скорость 1 Gbps
140GBОколо 19 минутТеоретическая скорость 1 Gbps

Фактическое время зависит от источника загрузки, сети, накладных расходов протокола и параллельных передач. Дополнительно потребуется время на распаковку, проверку и загрузку модели. На 4TB NVMe размещаются система, контейнеры, веса и результаты экспериментов — перед развёртыванием следует оставить достаточно свободного места.

Данные и управление системой

Перенесите данные до окончания аренды

По окончании аренды DGX Spark данные удаляются. Веса, код, наборы данных, конфигурации и журналы, которые необходимо сохранить, следует перенести и проверить до окончания срока аренды. Файл, оставленный на той же машине, не заменяет отдельную резервную копию.

Проверьте результаты до завершения эксперимента

Помимо итоговой модели, проверьте адаптеры дообучения, списки зависимостей, файлы сборки контейнеров и конфигурации, необходимые для воспроизведения эксперимента. После переноса проверьте целостность файлов: скриншоты работы не заменяют сами результаты.

Аппаратная перезагрузка и переустановка — по заявке

У системы нет BMC / IPMI. Запросы на аппаратную перезагрузку и переустановку системы подаются через заявку в панели управления. Перед переустановкой необходимо указать цель и самостоятельно создать резервную копию. Адрес и учётные данные после предоставления системы доступны в панели управления; для повседневного доступа используется SSH.

Перед оформлением

Совместимость проекта определяют три условия

Эти условия также потребуется подтвердить на странице оформления аренды TcpNode DGX. Эта страница содержит только описание продукта: заказ здесь не оформляется, оплата не принимается.

  1. 01

    Архитектура ARM64

    Программы для x86 и Windows не запускаются. Необходимо проверить поддержку ARM64 для кода, бинарных зависимостей и образов контейнеров.

  2. 02

    Операционная система DGX OS

    Доступна только NVIDIA DGX OS на базе Ubuntu 24.04 с CUDA. Другие дистрибутивы не устанавливаются.

  3. 03

    Удаление данных по окончании срока

    По окончании аренды данные удаляются. Веса, код и журналы необходимо перенести до завершения срока аренды; за резервное копирование отвечает арендатор.

Проверьте совместимость и выберите срок аренды DGX

Аренда TcpNode DGX Spark стоит $16.7 в сутки, срок — от 1 до 365 дней. На следующей странице можно выбрать срок, подтвердить условия использования и оформить заказ.

Оформить заказ TcpNode DGX