TcpNode trennt CUDA-Entwicklung und allgemeine Workloads. Vor der Wahl des Servers sollten Programmarchitektur, Systemabhängigkeiten und Datenspeicherung geprüft werden. Zunächst geht es um Entwicklungsprojekte mit DGX Spark, anschließend um den Einsatz von AMD Dedicated Servern.
CUDA-Projekte erfordern neben gemeinsam genutzten Geräten auch die Prüfung von Architektur, Treibern und Toolchain. TcpNode stellt einen exklusiv genutzten NVIDIA DGX Spark bereit. NVIDIA DGX OS ist mit CUDA und dem NVIDIA-AI-Softwarestack vorinstalliert – ideal für Entwicklung, Debugging und Tests auf demselben Gerät.
Bei der Kompilierung und beim Debugging von CUDA-Kernels ist zuerst zu prüfen, ob die Abhängigkeiten ARM64 unterstützen. Für Container werden Images mit ARM64-Build benötigt; x86-Binärdateien oder -Images lassen sich nicht einfach als lauffähige Umgebung voraussetzen. NVIDIA DGX OS basiert auf Ubuntu 24.04. Windows und andere Distributionen sind nicht verfügbar.
Lokale Inferenz, LoRA- / QLoRA-Finetuning und Prototypen für KI-Anwendungen lassen sich auf demselben Server umsetzen. Die 128 GB LPDDR5x sind gemeinsamer Arbeitsspeicher für CPU und GPU, kein dedizierter Grafikspeicher. Modellgewichte, Laufzeit-Cache, System und Anwendungen nutzen diesen Speicher gemeinsam.
Als grobe Orientierung nennt NVIDIA für quantisierte Inferenz etwa 200B Parameter und für LoRA- / QLoRA-Finetuning etwa 70B Parameter. Ob ein Modell tatsächlich in den Speicher passt und den gewünschten Durchsatz erreicht, hängt unter anderem von Quantisierung, Kontextlänge, Batchgröße und Softwareimplementierung ab. Die Parameterzahl allein reicht für eine verlässliche Einschätzung nicht aus.
Bei Python-Paketen, nativen Erweiterungen und Container-Basisimages ist die ARM64-Unterstützung zu prüfen. Mit Root-Rechten lassen sich weitere Entwicklungstools installieren. Modelle sind nicht vorinstalliert; Modellgewichte und Anwendungsabhängigkeiten werden selbst bereitgestellt.
Feste Konfiguration: keine zusätzlichen Laufwerke oder IP-Adressen, keine Änderung von Bandbreite oder Arbeitsspeicher.
Bei 1 Gbps sind 40 GB in theoretisch etwa 5,5 Minuten heruntergeladen – eine Orientierung, keine Zeitgarantie. Die tatsächliche Übertragung hängt von Quelle, Verbindung und Protokoll ab. Gewichte, Code und Logs sollten vor Ablauf der Mietdauer exportiert werden.
Nach Ablauf werden die Daten gelöscht. Harte Neustarts und Neuinstallationen werden über ein Support-Ticket im Kundenportal bearbeitet; BMC / IPMI ist nicht verfügbar.
Preis: $16.7 pro Tag. Zahlbetrag = Anzahl der Tage × Tagespreis. Wählbar sind 1–365 Tage. Keine Rabatte, keine Einrichtungsgebühr, kein Vertrag. Vor der Bestellung ist zu bestätigen, dass ARM64 keine x86-Programme oder Windows ausführt, ausschließlich NVIDIA DGX OS verfügbar ist und die Daten nach Ablauf gelöscht werden.
Der AMD EPYC 7543P Dedicated Server bietet 32 Kerne und 64 Threads sowie wahlweise 128 GB oder 256 GB DDR4-3200 ECC. Beide Konfigurationen umfassen 2×1 TB direkt angebundene NVMe-Laufwerke, 250 Mbps ohne Traffic-Limit und 1 dedizierte IPv4-Adresse. Ressourcen sollten nach dem tatsächlichen Workload geplant werden; Monatsmiete und Optionen sind auf der Preisseite aufgeführt.
Mit 32 Kernen und 64 Threads lassen sich Anwendungen, Datenbanken und Testumgebungen auf separate virtuelle Maschinen verteilen. Der Prozessor unterstützt AMD-V und NPT, sodass verschachtelte Virtualisierung aktiviert werden kann. Proxmox VE 8 / 9 steht kostenlos zur Auswahl.
Vor der Zuweisung von vCPUs sollte zwischen dauerhafter Auslastung und kurzfristigen Spitzen unterschieden werden. Es ist nicht sinnvoll, alle virtuellen Maschinen allein nach der Threadzahl maximal auszustatten. Auch Host-System, Speicher-Cache und Verwaltungsaufgaben benötigen Arbeitsspeicher. Die Wahl zwischen 128 GB und 256 GB sollte sich am gesamten Workingset der virtuellen Maschinen orientieren.
Für verschachtelte Virtualisierung müssen außerdem Host-Einstellungen, CPU-Konfiguration der virtuellen Maschine und Gastbetriebssystem geprüft werden. Sie ist nicht automatisch vollständig eingerichtet.
DDR4-3200-ECC-Arbeitsspeicher eignet sich für Datenbank-Caches, Indizes und Middleware-Workloads. Die beiden 1-TB-NVMe-Laufwerke sind direkt angebunden; ein Hardware-RAID ist nicht enthalten. Verzeichnisse für Daten, Logs und Backups müssen selbst geplant werden.
Bei Bedarf an Redundanz lässt sich ein ZFS-Spiegel oder Software-RAID einrichten. Ein Spiegel reduziert die nutzbare Kapazität, ersetzt aber kein Backup: Versehentliches Löschen, logische Schäden und Anwendungsfehler können ebenfalls auf das zweite Laufwerk übertragen werden.
Optional sind bis zu 2 zusätzliche 2-TB-NVMe-Laufwerke pro Bestellung verfügbar, jeweils direkt angebunden. Wichtige Daten sollten zusätzlich an einem separaten Standort wiederherstellbar gesichert werden.
Das Rechenzentrum befindet sich in Tokio, Japan. Eine dedizierte IPv4-Adresse ist enthalten; bis zu 255 weitere lassen sich hinzufügen, insgesamt also maximal 256. Das eignet sich für mehrere Websites, getrennte Workloads oder den Bedarf an eigenen Adressen.
Wählbare Bandbreiten: 250 Mbps, 1 Gbps oder 2 Gbps, jeweils ohne Traffic-Limit. Die Bandbreite beschreibt die Übertragungsrate und ist keine Zusage zur Reaktionszeit von Anwendungen. Das Nutzungserlebnis hängt weiterhin von Client, Netzwerkrouting und Anwendungsleistung ab.
SSH- / RDP-Verbindungen nutzen die erste Adresse aus der zugewiesenen Liste. Weitere Adressen werden selbst im System konfiguriert.
Windows Server Standard / Datacenter ist in den Versionen 2019, 2022 und 2025 verfügbar und eignet sich für Windows-abhängige Dienste, Verwaltungssoftware und Geschäftsanwendungen. Die Lizenz wird monatlich berechnet; der Zugriff erfolgt per RDP.
Bei der Bestellung stehen Englisch, traditionelles Chinesisch und vereinfachtes Chinesisch als Systemsprache zur Auswahl. Lizenzen der Anwendungen, Komponentenversionen und Berechtigungen der Dienstkonten müssen separat geprüft werden. Die Systemlizenz umfasst keine Lizenzen für Geschäftsanwendungen.
Nach Zahlung und Bereitstellung Adresse und Zugangsdaten im Kundenportal abrufen. Beim ersten Login die Zugriffsregeln prüfen und Passwörter sicher verwalten.
Für AMD Dedicated Server stehen die folgenden 14 kostenlosen Betriebssysteme zur Auswahl. Die passende Version sollte anhand von Anwendungsabhängigkeiten, Dateisystem und Verwaltungsanforderungen ausgewählt werden – nicht nur nach Vertrautheit. Die beiden Windows-Server-Lizenzen werden separat berechnet.
3 kostenlose Versionen, geeignet für Workloads mit zu prüfenden Enterprise-Linux-Abhängigkeiten.
2 kostenlose Versionen. Vor der Bereitstellung Software-Repositories und Komponentenkompatibilität prüfen.
3 kostenlose Versionen. Die passende Systemversion richtet sich nach dem Supportumfang der Anwendungen.
3 kostenlose Versionen. Laufzeitumgebung, Treiber und Container-Abhängigkeiten prüfen.
1 kostenlose Version. Vor der Bereitstellung die Unterstützung der Anwendungen für FreeBSD prüfen.
2 kostenlose Versionen zur Planung von Host, virtuellen Maschinen und Netzwerk-Bridges.
Beide kostenpflichtigen Lizenzen sind in den Versionen 2019 / 2022 / 2025 verfügbar und werden monatlich in den Konfigurationspreis eingerechnet. Linux, FreeBSD und Proxmox VE sind per SSH erreichbar, Windows per RDP. Diese Betriebssystemauswahl gilt nicht für DGX Spark.
Die Ressourcenkonfiguration löst Kapazitätsfragen; eine Wiederherstellungsübersicht hilft dabei, nach einem Fehler oder einer Fehlbedienung weiterzuarbeiten. TcpNode ist für Hardware und Netzwerk zuständig. Systemkonfiguration, Anwendungen, Daten und Backups liegen in eigener Verantwortung.
Ressourcen virtueller Maschinen, Anwendungsports und Laufwerksverwendung festhalten. Backups und Quelldaten sollten nicht ausschließlich auf demselben Rechner liegen.
Prüfen, ob Backups lesbar sind, Anwendungen neu eingerichtet werden können und Konfigurationen sowie Schlüssel separat verwahrt werden.
Support-Tickets mit Bestellnummer, Fehlerbild, bereits ausgeführten Schritten und erforderlichen Logs versehen. Keine Anmeldepasswörter im E-Mail-Text senden.
Die gewählte Arbeitsspeicherkonfiguration lässt sich nach der Bereitstellung am selben Server nicht aufrüsten; für einen Wechsel ist ein weiterer Server zu bestellen. Zusätzliche Laufwerke, Bandbreite, IPv4-Adressen und Windows-Lizenzen werden auf der Konfigurationsseite separat ausgewählt. Der Monatsbetrag setzt sich aus den gewählten Optionen zusammen. Zahlbetrag = Monatsbetrag × Anzahl der Monate. Monats-, Quartals-, Halbjahres- und Jahreszahlung sind rabattfrei; es fallen keine Einrichtungsgebühren an und es gibt keinen Vertrag.
Die im Katalog wählbaren Optionen sind nicht gleichbedeutend mit ihrer aktuellen Verfügbarkeit. Maßgeblich ist die aktuelle Anzeige im Kundenportal. Abrechnung und Zahlung erfolgen in US-Dollar; die verfügbaren Zahlungsmethoden sind auf der Konfigurationsseite aufgeführt.
Nach Prüfung von Arbeitsspeicherbedarf, Laufwerksredundanz und IP-Adressen lassen sich Monatsmiete und Optionen für die beiden AMD-Dedicated-Server-Konfigurationen vergleichen.