아키텍처에 맞춰 워크로드 계획

EPYC 7543P 물리 서버로 중첩 가상화 지원

TcpNode는 CUDA 개발과 일반 업무를 분리해 운영할 수 있도록 지원합니다. 프로그램 아키텍처, 시스템 종속성, 데이터 보존 방식을 확인한 뒤 서버를 선택하세요. 먼저 DGX Spark 개발 환경을 살펴보고, 이어서 AMD 물리 서버의 업무 환경을 안내합니다.

용량보다 아키텍처 호환성부터 시스템과 데이터는 직접 관리
DGX Spark · CUDA 개발

ARM64 컴파일부터 추론 검증까지

공유 장비의 대기 시간을 줄이는 것만큼 CUDA 프로젝트의 아키텍처, 드라이버, 툴체인을 확인하는 일도 중요합니다. TcpNode는 NVIDIA DGX Spark 서버를 단독으로 제공하며, NVIDIA DGX OS와 CUDA, NVIDIA AI 소프트웨어 스택을 미리 설치합니다. 동일한 장비에서 개발, 디버깅, 실험을 진행하기에 적합합니다.

프로그램, 컨테이너, 모델을 각각 확인하세요

CUDA 커널을 컴파일하고 디버깅하기 전에 종속성이 ARM64를 지원하는지 확인해야 합니다. 컨테이너를 배포할 때는 ARM64 빌드가 제공되는 이미지를 선택하세요. x86 바이너리나 이미지를 그대로 사용할 수는 없습니다. NVIDIA DGX OS는 Ubuntu 24.04 기반이며, Windows나 다른 배포판으로 교체할 수 없습니다.

로컬 추론, LoRA / QLoRA 파인튜닝, AI 애플리케이션 프로토타입 검증을 한 서버에서 진행할 수 있습니다. 128GB LPDDR5x는 CPU와 GPU가 공유하는 통합 메모리 풀로, 별도의 VRAM이 아닙니다. 모델 가중치, 런타임 캐시, 시스템과 프로그램이 모두 이 용량을 함께 사용합니다.

NVIDIA 공식 기준으로 양자화 추론은 약 200B 파라미터, LoRA / QLoRA 파인튜닝은 약 70B 파라미터가 참고 규모입니다. 실제 적재 가능 여부와 목표 처리량 달성 여부는 양자화 방식, 컨텍스트 길이, 배치 크기, 소프트웨어 구현에 따라 달라지므로 파라미터 수만으로 판단할 수 없습니다.

배포 전 아키텍처 종속성 확인

Python 패키지, 네이티브 확장 모듈, 컨테이너 기본 이미지는 모두 ARM64 지원 여부를 확인해야 합니다. root 권한으로 필요한 개발 도구를 설치할 수 있으며, 모델은 미리 설치되지 않습니다. 모델 가중치와 애플리케이션 종속성은 이용자가 준비해야 합니다.

고정 사양: 디스크, IP, 대역폭, 메모리 추가 불가

다운로드와 내보내기도 실험 계획에 포함

1 Gbps 환경에서 40GB를 다운로드하는 데 약 5.5분이 걸린다는 것은 이론상 참고치이며, 완료 시간을 보장하지 않습니다. 실제 전송 속도는 출처, 네트워크 경로, 프로토콜에 따라 달라집니다. 이용 기간이 끝나기 전에 가중치, 코드, 로그를 외부로 옮겨야 합니다.

이용 기간 종료 후 데이터 삭제. 강제 재부팅과 재설치는 포털의 지원 요청으로 처리하며 BMC / IPMI는 제공하지 않습니다.

실험 일수에 맞춰 이용 기간 선택

요금은 $16.7/일이며, 결제 금액 = 일수 × 일 요금입니다. 1~365일 중 선택할 수 있습니다. 할인, 설치비, 약정은 없습니다. 주문 전에 ARM64에서 x86 프로그램이나 Windows를 실행할 수 없다는 점, NVIDIA DGX OS만 사용할 수 있다는 점, 이용 기간 종료 후 데이터가 삭제된다는 점을 확인하세요.

AMD EPYC · 일반 업무

상시 운영 업무를 위한 x86 환경

AMD EPYC 7543P 물리 서버는 32코어 64스레드와 128GB / 256GB DDR4-3200 ECC 메모리 두 가지 구성을 제공합니다. 두 구성 모두 직접 연결된 2×1TB NVMe, 250 Mbps 무제한 트래픽, 독립 IPv4 1개를 포함합니다. 업무별 작업 집합에 맞춰 자원을 계획한 뒤 요금 페이지에서 월 요금과 추가 옵션을 확인하세요.

가상화 및 격리

Proxmox에서 업무별 자원 분리

32코어 64스레드를 활용해 애플리케이션, 데이터베이스, 테스트 환경을 별도의 가상 머신으로 나눌 수 있습니다. 프로세서는 AMD-V와 NPT를 지원해 중첩 가상화를 활성화할 수 있습니다. Proxmox VE 8 / 9를 무료로 선택할 수 있습니다.

vCPU를 할당하기 전에 지속 점유량과 일시적인 최대 사용량을 구분하세요. 스레드 수에 맞춰 모든 가상 머신을 최대치로 구성하지 않는 것이 좋습니다. 호스트 시스템, 스토리지 캐시, 관리 작업에 사용할 메모리도 남겨야 합니다. 128GB와 256GB 중에서는 가상 머신의 작업 집합 총량을 기준으로 선택하세요.

중첩 가상화를 사용하려면 호스트 설정, 가상 머신 CPU 구성, 게스트 시스템 지원을 확인해야 합니다. 모든 설정이 기본으로 완료되어 있다는 뜻은 아닙니다.

데이터베이스 및 미들웨어

프로세스를 늘리기 전에 데이터 배치부터

DDR4-3200 ECC 메모리는 데이터베이스 캐시, 인덱스, 미들웨어 작업 집합에 활용할 수 있습니다. 1TB NVMe 두 개는 각각 직접 연결되며 하드웨어 RAID는 제공하지 않습니다. 데이터 디렉터리, 로그, 백업 위치는 직접 계획해야 합니다.

디스크 이중화가 필요하다면 ZFS 미러나 소프트웨어 RAID를 직접 구성할 수 있습니다. 미러링을 사용하면 이용 가능한 용량이 달라지지만 백업을 대신할 수는 없습니다. 실수로 삭제하거나 논리적 손상이 발생하거나 애플리케이션 오류가 생기면 다른 디스크에도 동일한 문제가 반영될 수 있습니다.

NVMe +2TB를 추가할 수 있으며, 한 번에 최대 2개까지 선택할 수 있습니다. 각각 독립적으로 연결됩니다. 중요한 데이터는 복구 가능한 외부 사본도 별도로 보관하세요.

다중 사이트 및 글로벌 업무

IP, 대역폭, 트래픽을 따로 계획

데이터센터는 일본 도쿄에 있습니다. 기본 제공되는 독립 IPv4 1개 외에 최대 255개를 추가할 수 있어 총 256개까지 사용할 수 있습니다. 여러 사이트를 운영하거나 업무를 분리하거나 별도 주소가 필요한 배포에 적합합니다.

대역폭은 250 Mbps, 1 Gbps, 2 Gbps 중에서 선택할 수 있으며 세 옵션 모두 트래픽 무제한입니다. 대역폭은 전송 속도를 의미하며 애플리케이션 응답 시간을 보장하지 않습니다. 실제 접속 환경은 클라이언트, 통신사 경로, 애플리케이션 처리 성능에 따라 달라집니다.

SSH / RDP 연결에는 할당 목록의 첫 번째 주소를 사용합니다. 나머지 주소는 시스템에서 직접 설정해야 합니다.

Windows 애플리케이션

기존 업무를 Server 환경에서 운영

Windows Server Standard / Datacenter는 2019, 2022, 2025 버전을 제공하며, Windows에 종속된 서비스, 관리 소프트웨어, 업무 구성 요소에 적합합니다. 라이선스는 월 단위로 과금되며 RDP로 접속합니다.

주문 시 영어, 번체 중국어, 간체 중국어 중 시스템 언어를 선택할 수 있습니다. 애플리케이션 라이선스, 구성 요소 버전, 서비스 계정 권한은 별도로 확인해야 합니다. 시스템 라이선스에 업무용 소프트웨어 라이선스가 포함되는 것은 아닙니다.

결제 후 포털에서 주소와 인증 정보를 확인하세요. 처음 로그인한 뒤 접속 규칙을 점검하고 계정 비밀번호를 안전하게 관리해야 합니다.

제품군별 운영체제 목록 확인

AMD 물리 서버에서 무료로 선택할 수 있는 운영체제 14종입니다. 익숙한지 여부만으로 고르지 말고 애플리케이션 종속성, 파일 시스템, 관리 방식에 맞춰 버전을 선택하세요. Windows Server 라이선스 두 종류는 별도 과금됩니다.

AlmaLinux

8 9 10

무료 버전 3종. 엔터프라이즈 Linux 종속성 확인이 필요한 업무에 적합합니다.

CentOS Stream

9 10

무료 버전 2종. 배포 전에 소프트웨어 저장소와 구성 요소의 호환성을 확인하세요.

Debian

11 12 13

무료 버전 3종. 애플리케이션 지원 범위에 맞춰 버전을 선택하세요.

Ubuntu Server

22.04 LTS 24.04 LTS 26.04 LTS

무료 버전 3종. 런타임, 드라이버, 컨테이너 종속성을 확인하세요.

FreeBSD

13

무료 버전 1종. 배포 전에 애플리케이션의 FreeBSD 환경 지원 여부를 확인하세요.

Proxmox VE

8 9

무료 버전 2종. 호스트, 가상 머신, 네트워크 브리지를 계획할 수 있습니다.

Windows Server: Standard / Datacenter

두 가지 유료 라이선스 모두 2019 / 2022 / 2025 버전을 제공하며, 라이선스 비용은 구성 요금에 월 단위로 반영됩니다. Linux, FreeBSD, Proxmox VE는 SSH로, Windows는 RDP로 접속합니다. 이 운영체제 목록은 DGX Spark에 적용되지 않습니다.

배포 전 운영 점검

복구 절차를 위한 체크리스트 준비

자원 구성으로 용량 문제를 해결할 수 있다면, 복구 체크리스트는 실수나 장애가 발생한 뒤에도 업무를 이어갈 수 있도록 돕습니다. TcpNode는 하드웨어와 네트워크를 담당하며 시스템 구성, 애플리케이션, 데이터, 백업은 이용자가 관리합니다.

  1. 01 자원 기록

    가상 머신 자원, 업무 포트, 디스크 용도를 기록하고 백업을 원본 데이터와 같은 서버에만 보관하지 마세요.

  2. 02 복구 검증

    백업을 읽을 수 있는지, 애플리케이션을 재구성할 수 있는지, 구성 정보와 키를 별도로 보관하고 있는지 확인하세요.

  3. 03 문제 파악

    장애 문의에는 주문 번호, 증상, 이미 수행한 조치, 필요한 로그를 포함하세요. 이메일 본문에 로그인 비밀번호를 보내지 마세요.

운영 작업 공간의 자원 및 백업 점검 예시 모니터 안에 컴퓨팅 자원, 디스크, 네트워크 기록이 각각 정리되어 있습니다. 옆의 체크리스트에는 세 항목이 표시되어 있고, 아래에는 백업 매체가 별도로 배치되어 자원 기록과 복구 검증을 구분해 진행함을 나타냅니다.
운영 작업 공간 예시: 자원 기록, 복구 점검, 별도 백업을 각각 관리합니다. 실제 포털 화면을 나타내지는 않습니다.

구성 범위와 요금 확인

두 가지 메모리 구성은 서버 개통 후 업그레이드할 수 없습니다. 사양을 변경하려면 별도 서버를 주문해야 합니다. 추가 디스크, 대역폭, 추가 IPv4, Windows 라이선스는 구성 페이지에서 각각 선택합니다. 월 요금은 선택한 항목으로 계산되며, 결제 금액 = 월 요금 합계 × 개월 수입니다. 월간, 분기별, 반기별, 연간의 네 가지 결제 주기 모두 할인, 설치비, 약정이 없습니다.

목록에서 선택할 수 있는 구성과 실제 이용 가능 여부는 별도로 확인해야 합니다. 이용 가능 여부는 포털에서 실시간으로 확인할 수 있습니다. 모든 요금은 미국 달러로 결제되며, 결제 수단은 구성 페이지에 표시된 항목을 따릅니다.

업무 요건에 맞는 구성 선택

메모리 작업 집합, 디스크 이중화, IP 요구 사항을 확인한 뒤 AMD 물리 서버 두 가지 구성의 월 요금과 추가 옵션을 살펴보세요.

TcpNode 물리 서버 요금 보기