Планирование рабочих нагрузок

Для каких задач: выделенный сервер EPYC 7543P с поддержкой вложенной виртуализации

В TcpNode разработка на CUDA и обычные бизнес-нагрузки размещаются отдельно. Сначала проверьте архитектуру приложений, системные зависимости и способ хранения данных, а затем выберите сервер. Ниже сначала рассмотрим разработку на DGX Spark, затем — бизнес-задачи на серверах AMD.

Сначала совместимость архитектуры, затем ресурсы Систему и данные администрирует клиент
DGX Spark · разработка на CUDA

От компиляции ARM64 до проверки инференса

Для разработки на CUDA недостаточно ждать своей очереди на общем оборудовании: нужно учитывать архитектуру, драйверы и инструментарий. TcpNode предоставляет выделенный сервер NVIDIA DGX Spark с предустановленными NVIDIA DGX OS, CUDA и стеком NVIDIA AI — для разработки, отладки и экспериментов на одном устройстве.

Проверьте программы, контейнеры и модели

Перед компиляцией и отладкой ядер CUDA убедитесь, что зависимости поддерживают ARM64. Для контейнеров выбирайте образы со сборкой под ARM64: бинарные файлы и образы для x86 не подойдут автоматически. NVIDIA DGX OS основана на Ubuntu 24.04; заменить ее на Windows или другой дистрибутив нельзя.

На одном сервере можно запускать локальный инференс, дообучать модели с LoRA / QLoRA и проверять прототипы AI-приложений. 128GB LPDDR5x — это общий пул памяти CPU и GPU, а не отдельная видеопамять. Его используют веса моделей, кэш выполнения, система и приложения.

По оценкам NVIDIA, ориентир для квантованного инференса — около 200B параметров, для дообучения с LoRA / QLoRA — около 70B. Фактические требования к памяти и пропускная способность зависят от квантования, длины контекста, размера пакета и реализации ПО; одной оценки числа параметров недостаточно.

Проверьте архитектуру зависимостей

Проверьте поддержку ARM64 для пакетов Python, нативных расширений и базовых образов контейнеров. Права root позволяют установить дополнительные инструменты разработки. Модели не предустановлены: веса и зависимости приложений подготавливаются самостоятельно.

Фиксированная конфигурация: нельзя добавить диск или IP-адрес, изменить пропускную способность или объем памяти.

Заранее спланируйте загрузку и выгрузку данных

При скорости 1 Gbps загрузка 40GB займет около 5,5 минут в теории — это не обещание срока выполнения. Фактическое время зависит от источника, сети и протокола. Перенесите веса моделей, код и журналы до окончания аренды.

По окончании аренды данные удаляются. Аппаратная перезагрузка и переустановка системы выполняются через заявку в панели управления; BMC / IPMI не предусмотрен.

Выберите срок аренды под длительность эксперимента

$16.7 в день; к оплате: число дней × дневная цена. Срок аренды — от 1 до 365 дней. Без скидок, платы за установку и долгосрочного договора. Перед заказом учтите, что ARM64 не запускает программы x86 и Windows, доступна только DGX OS, а по окончании аренды данные удаляются.

AMD EPYC · бизнес-нагрузки

Постоянные нагрузки в среде x86

Выделенный сервер AMD EPYC 7543P оснащен 32 ядрами и 64 потоками; доступны конфигурации с 128GB или 256GB DDR4-3200 ECC. В обе входят 2×1TB NVMe с прямым подключением, канал 250 Mbps без ограничения трафика и 1 выделенный IPv4. Сначала оцените рабочий набор приложений, затем уточните месячную цену и дополнительные опции в каталоге.

Виртуализация и изоляция

Распределение ресурсов в Proxmox

32 ядра и 64 потока позволяют разделить приложения, базы данных и тестовые среды между виртуальными машинами. Процессор поддерживает AMD-V и NPT, поэтому можно включить вложенную виртуализацию. Proxmox VE 8 / 9 доступны без дополнительной платы.

Перед назначением vCPU разделите постоянную нагрузку и кратковременные пики — не выделяйте всем виртуальным машинам сразу все потоки. Память нужна также хостовой системе, кэшу хранилища и задачам администрирования. Выбирайте 128GB или 256GB с учетом суммарного рабочего набора виртуальных машин.

Для вложенной виртуализации также проверьте настройки хоста, конфигурацию CPU виртуальной машины и поддержку гостевой системы. Она не включается автоматически во всех компонентах.

Базы данных и промежуточное ПО

Сначала продумайте хранение данных, затем масштабируйте процессы

Память DDR4-3200 ECC подходит для кэша баз данных, индексов и рабочего набора промежуточного ПО. Оба диска 1TB NVMe подключены напрямую; аппаратный RAID не предусмотрен. Самостоятельно спланируйте размещение каталогов данных, журналов и резервных копий.

Для резервирования дисков можно настроить зеркало ZFS или программный RAID. Зеркалирование уменьшает доступный объем, но не заменяет резервное копирование: удаление, логические повреждения и ошибки приложений могут синхронно затронуть оба диска.

Можно добавить до 2 дисков NVMe по +2TB каждый с прямым подключением. Для важных данных также создайте восстанавливаемую копию в другом месте.

Несколько сайтов и международные нагрузки

Отдельно рассчитайте адреса, пропускную способность и трафик

Дата-центр находится в Токио, Япония. В стандартную конфигурацию входит 1 выделенный IPv4; можно добавить до 255, всего — до 256 адресов. Подходит для нескольких сайтов, разделения нагрузок или работы с отдельными IP-адресами.

Доступны каналы 250 Mbps, 1 Gbps и 2 Gbps — все без ограничения трафика. Пропускная способность определяет скорость передачи данных, а не время отклика приложений: оно также зависит от клиентского устройства, маршрута сети и производительности приложения.

Для подключения по SSH / RDP используйте первый адрес из списка выделенных. Остальные адреса настройте в системе самостоятельно.

Приложения Windows

Запуск существующих служб на Windows Server

Доступны Windows Server Standard / Datacenter 2019, 2022 и 2025 — для служб, программ администрирования и бизнес-компонентов, которым нужна Windows. Лицензия оплачивается помесячно; подключение выполняется по RDP.

При заказе можно выбрать английский, традиционный китайский или упрощенный китайский язык системы. Отдельно проверьте лицензии приложений, версии компонентов и права учетных записей служб: лицензия на систему не включает лицензии на бизнес-ПО.

После оплаты и предоставления сервера найдите адрес и учетные данные в панели управления. При первом входе проверьте правила доступа и надежно храните пароли учетных записей.

Выбирайте систему по семейству

Для выделенных серверов AMD доступны 14 бесплатных систем. Выбирайте версию с учетом зависимостей приложений, файловой системы и способов администрирования, а не только привычки. Лицензии Windows Server Standard и Datacenter оплачиваются отдельно.

AlmaLinux

8 9 10

3 бесплатные версии для задач, требующих проверки совместимости с корпоративным Linux.

CentOS Stream

9 10

2 бесплатные версии. Перед развертыванием проверьте совместимость репозиториев и компонентов.

Debian

11 12 13

3 бесплатные версии. Выбирайте версию системы с учетом поддержки приложения.

Ubuntu Server

22.04 LTS 24.04 LTS 26.04 LTS

3 бесплатные версии. Проверьте зависимости среды выполнения, драйверов и контейнеров.

FreeBSD

13

1 бесплатная версия. Перед развертыванием убедитесь, что приложение поддерживает FreeBSD.

Proxmox VE

8 9

2 бесплатные версии для планирования хоста, виртуальных машин и сетевых мостов.

Windows Server: Standard / Datacenter

Обе платные лицензии доступны для версий 2019 / 2022 / 2025; стоимость лицензии за месяц включается в расчет конфигурации. Подключение к Linux, FreeBSD и Proxmox VE — по SSH, к Windows — по RDP. Этот каталог систем не относится к DGX Spark.

Проверки перед запуском

Составьте список для восстановления

Конфигурация ресурсов решает задачу емкости, а план восстановления помогает продолжить работу после ошибки или сбоя. TcpNode отвечает за оборудование и сеть; систему, приложения, данные и резервные копии администрирует клиент.

  1. 01 Зафиксируйте ресурсы

    Запишите ресурсы виртуальных машин, порты служб и назначение дисков. Не храните резервную копию и исходные данные только на одном сервере.

  2. 02 Проверьте восстановление

    Убедитесь, что резервные копии читаются, приложения можно восстановить, а конфигурации и ключи хранятся отдельно.

  3. 03 Опишите проблему

    В заявке о сбое укажите номер заказа, описание проблемы, уже выполненные действия и необходимые журналы. Не отправляйте пароль для входа в тексте письма.

Схема проверки ресурсов и резервных копий в панели администрирования На экране отдельно показаны записи о вычислительных ресурсах, дисках и сети; рядом — список из трех проверок, а носитель резервной копии расположен отдельно. Это иллюстрирует раздельный учет ресурсов и проверку восстановления.
Схема панели администрирования: для учета ресурсов, проверки восстановления и отдельных резервных копий предусмотрены разные разделы. Изображение не отражает фактический интерфейс панели управления.

Сначала уточните ограничения конфигурации и оплату

После предоставления сервера увеличить объем памяти в выбранной конфигурации нельзя; для смены тарифа потребуется заказать отдельный сервер. Дополнительные диски, пропускную способность, IPv4 и лицензию Windows выбирают отдельно на странице конфигурации. Месячная сумма складывается из выбранных позиций; к оплате: месячная сумма × число месяцев. При оплате за месяц, квартал, полгода или год скидок нет; плата за установку и долгосрочный договор не предусмотрены.

Доступные для выбора позиции в каталоге и фактическая доступность проверяются отдельно; актуальный статус отображается в панели управления. Расчеты ведутся в долларах США; доступные способы оплаты указаны на странице конфигурации.

Подберите конфигурацию под задачи

Оцените рабочий набор памяти, резервирование дисков и потребность в IP-адресах, затем изучите месячные цены и дополнительные опции для двух конфигураций серверов AMD.

Цены на выделенные серверы TcpNode