Сервер для ИИ-разработки:
128 ГБ общей памяти
для CPU и GPU
NVIDIA DGX Spark целиком выделяется одному клиенту, без совместного использования.
Доступ по SSH · CUDA установлена в DGX OS
Один DGX Spark выделяется одному клиенту; пул памяти объёмом 128 ГБ не используется совместно.
Доступна только NVIDIA DGX OS на базе Ubuntu 24.04 с предустановленным стеком ИИ NVIDIA. С правами root можно установить другие инструменты; модели не предустанавливаются.
Один сервер — три характеристики, которые легко проверить
Модель, объём ресурсов и формула оплаты указаны в каталоге. На выделенном сервере нет очередей и вытеснения задач, характерных для общих GPU.
128 ГБ общей памяти LPDDR5x
CPU и GPU используют общий пул: веса модели, KV-кэш и программы CUDA размещаются в одной памяти, без постоянного копирования между системной памятью и устройством.
GB10 Grace Blackwell целиком в распоряжении одного клиента
Весь NVIDIA DGX Spark выделяется одному клиенту, без совместного использования. Задачи не ждут в очереди и не прерываются другими арендаторами.
Без платы за установку, контракта и скидок
К оплате = число дней × цена за день. Цена в каталоге — итоговая; без разовых сборов и минимального срока аренды.
Веса, KV-кэш и программы CUDA в одном пуле
В NVIDIA GB10 Grace Blackwell общая память LPDDR5x объёмом 128 ГБ доступна и Grace CPU, и Blackwell GPU. По данным NVIDIA, этого пула достаточно для квантованного инференса моделей примерно до 200B параметров или LoRA/QLoRA-дообучения моделей примерно до 70B параметров.
Сравнение размеров моделей от TcpNodeGB10,целиком для одного клиента
Драйверы и инструменты готовы в DGX OS; права root остаются в распоряжении арендатора, нужные версии можно установить самостоятельно.
20-ядерный Arm CPU и Blackwell GPU — целиком в распоряжении одного клиента
CPU состоит из 10×Cortex-X925 и 10×Cortex-A725, архитектура — ARM64. Подключение по SSH с правами root. Сервер не используется совместно: компиляция, отладка и длительный инференс проходят без очереди.
Характеристики DGX Spark от TcpNodeОплата по дням — по одной формуле
DGX Spark сдаётся в аренду посуточно на срок от 1 до 365 дней. Без скидок, платы за установку и контракта. По окончании срока данные на сервере удаляются; необходимые веса моделей, код и журналы нужно перенести заранее.
О DGX Spark от TcpNodeДва сценария работы на одном сервере
Установлена NVIDIA DGX OS на базе Ubuntu 24.04; CUDA и контейнеры NGC готовы к работе.
Компиляция и отладка ядер CUDA на ARM64
Среда разработки CUDA уже настроена в системе — не нужно устанавливать всё поэтапно, начиная с драйверов. Для развёртывания используйте контейнеры NGC; образы ARM64 можно сразу загрузить и запустить.
Локальный инференс больших моделей и эксперименты с дообучением
Подходит для локального инференса, дообучения LoRA и проверки прототипов ИИ-приложений. Модели не предустановлены — веса нужно загрузить самостоятельно. При скорости 1 Гбит/с загрузка 40 ГБ теоретически занимает около 5,5 минуты.
Для каких задач подходит DGX Spark
Конфигурация и система фиксированы — перед заказом сверьтесь со списками ниже.
Подходит
- Разработка и отладка программ CUDA
- Развёртывание ARM64-контейнеров и проверка образов NGC
- Локальный инференс больших моделей и тестирование пропускной способности
- Эксперименты с дообучением LoRA
- Знакомство с DGX OS и проверка прототипов ИИ-приложений
Не подходит
- Программы для x86 и Windows: ARM64 не поддерживает их запуск
- Многомашинные кластеры и обучение с межсерверным соединением
- Задачи, для которых требуется изменить пропускную способность, добавить IP-адрес или диск
- Задачи, для которых требуется увеличить объём памяти или сменить ОС
Частые вопросы перед заказом
Что происходит с данными на сервере по окончании аренды?
По окончании срока данные на сервере удаляются. Необходимые веса моделей, код и журналы нужно заранее перенести в другое хранилище.
Можно ли запускать программы для x86 или Windows?
Нет. DGX Spark использует архитектуру ARM64 и работает только под NVIDIA DGX OS. Для образов x86 потребуется версия ARM64.
Предустановлены ли модели?
Модели не предустанавливаются. Стек ИИ NVIDIA, включая CUDA, cuDNN и TensorRT, готов к работе; веса моделей нужно загрузить самостоятельно.
Где найти данные для входа и куда обратиться при неполадках?
После предоставления сервера IP-адрес и данные для входа доступны в сведениях о машине в панели управления; подключение выполняется по SSH. Запросы по неисправностям, принудительной перезагрузке и переустановке системы подаются через панель управления.
DGX Spark целиком, цена за день $16.7
NVIDIA GB10 Grace Blackwell · 128 ГБ LPDDR5x общей памяти · ЦОД в Токио, Япония
Проверка зависимостей потоков CUDA и времени жизни буферов на DGX Spark
Полный пример связывает потоки производителя и потребителя событием, проверяет результат и определяет безопасный момент повторного использования буферов.
AI-автоматизацияПроверка CUDA-сборки на DGX Spark: архитектура GPU, SASS и PTX
Определение архитектуры GPU, явное включение SASS и PTX, проверка бинарного файла и раздельные испытания нативного кода и JIT.
AI-автоматизацияКак найти выход за границы памяти CUDA на DGX Spark
Минимальный пример ошибочной записи связывает поиск строки кода, проверку асинхронных ошибок и коды завершения с проверкой исправления.
Новая статья готовится — пока загляните всписок блога.