Zum Inhalt springen

Eine ganze Grafikkarte für Ihr Modell

Die NVIDIA RTX PRO 6000 Blackwell Server Edition bringt 96 GB Grafikspeicher und über 24.000 CUDA-Kerne mit. In einem GPU-Seed nutzen Sie eine bis acht dieser Karten exklusiv, gehostet in Deutschland.

Was in der Karte steckt

Die Profikarte aus NVIDIAs Blackwell-Generation, gebaut für den Dauerbetrieb im Rechenzentrum.

65 von 96 GBgpt-oss-120b im Grafikspeicher

Bis zu acht Karten

Ein Sprachmodell muss vollständig in den Grafikspeicher passen. Stellen Sie die Größe Ihres Modells ein, die Leisten zeigen, wie viele Karten es braucht.

Bekannte Modelle

Passt auf 1 Karte

96 GB Grafikspeicher, 16 dedizierte vCPUs, 1,60 € pro Stunde
Mit 1 Karte konfigurieren

Ebenfalls auf 1 Karte: gpt-oss-20b, Mistral Small 3.1, Gemma 3 27B, Qwen3 32B

OpenAI, 117 Mrd. Parameter (MoE), MXFP4. Richtwerte für die Modellgewichte, dazu kommt Platz für den Kontext.

65 von 96 GBgpt-oss-120b im Grafikspeicher

Die RTX PRO 6000 im Vergleich

Datenblattwerte gängiger Grafikkarten für KI und Rendering. Für große Sprachmodelle zählt zuerst der Grafikspeicher pro Karte.

RTX PRO 6000 im GPU-Seed Andere Karte
RTX PRO 6000vs.H100PCIe, 80 GB HBM2e
96 GB
80 GB
+16 GB
RTX PRO 6000vs.L40S48 GB GDDR6
96 GB
48 GB
+48 GB
RTX PRO 6000vs.RTX 5090GeForce, 32 GB GDDR7
96 GB
32 GB
+64 GB
RTX PRO 6000vs.RTX 4090GeForce, 24 GB GDDR6X
96 GB
24 GB
+72 GB

Datenblattwerte sind keine Messwerte aus unserem Rechenzentrum. Bei der Speicherbandbreite liegen die H100 mit HBM-Speicher und die RTX 5090 vorn, beim Grafikspeicher pro Karte die RTX PRO 6000.

Herstellerangaben von NVIDIA:RTX PRO 6000 Blackwell Server EditionH100L40SRTX 5090RTX 4090

So starten Sie Ihr Modell

Ihr GPU-Seed startet mit Ubuntu 24.04, Grafiktreiber und CUDA 13.4. Mit Root-Zugriff installieren Sie Ihre KI-Software und laden das Modell, zum Beispiel mit Ollama oder vLLM.

Zu den Anleitungen
curl -fsSL https://ollama.com/install.sh | sh
ollama pull gpt-oss:120b
curl -LsSf https://astral.sh/uv/install.sh | sh
source $HOME/.local/bin/env
DATA_DIR=~/.open-webui uvx --python 3.12 \
  open-webui@latest serve --port 3000
curl -LsSf https://astral.sh/uv/install.sh | sh
source $HOME/.local/bin/env
uv venv && source .venv/bin/activate
uv pip install vllm --torch-backend=auto
vllm serve openai/gpt-oss-120b --port 8000
apt install -y ffmpeg
ffmpeg -hwaccel cuda -i input.mov \
  -c:v av1_nvenc -preset p5 output.mp4
snap install blender --classic
blender -b scene.blend -E CYCLES -a \
  -- --cycles-device OPTIX

GPU-Seeds und Preise

Zum Konfigurator

Wählen Sie, wie viele Grafikkarten Ihr GPU-Seed bekommt. Jede Konfiguration hat einen Stundenpreis und eine monatliche Obergrenze.

GPUsVRAM CPU RAM SpeicherNetzwerk PreisKonfigurieren
1×(Black-Week-Seed, buchbar bis 30. November)96 GB16 vCPUs128 GB500 GB20 TB Traffic
bis zu 10 Gbit/s
1,600962 € / Stunde
max. 999,00 € / Monat
1×96 GB16 vCPUs128 GB500 GB20 TB Traffic
bis zu 10 Gbit/s
2,368100 € / Stunde
max. 1.477,69 € / Monat
2×(Black-Week-Seed, buchbar bis 30. November)192 GB32 vCPUs256 GB1000 GB20 TB Traffic
bis zu 10 Gbit/s
3,201923 € / Stunde
max. 1.998,00 € / Monat
2×192 GB32 vCPUs256 GB1000 GB20 TB Traffic
bis zu 10 Gbit/s
4,736200 € / Stunde
max. 2.955,39 € / Monat
4×(Black-Week-Seed, buchbar bis 30. November)384 GB64 vCPUs512 GB2000 GB20 TB Traffic
bis zu 10 Gbit/s
6,403847 € / Stunde
max. 3.996,00 € / Monat
4×384 GB64 vCPUs512 GB2000 GB20 TB Traffic
bis zu 10 Gbit/s
9,472400 € / Stunde
max. 5.910,78 € / Monat
8×(Black-Week-Seed, buchbar bis 30. November)768 GB128 vCPUs1024 GB4000 GB20 TB Traffic
bis zu 10 Gbit/s
12,807694 € / Stunde
max. 7.992,00 € / Monat
8×768 GB128 vCPUs1024 GB4000 GB20 TB Traffic
bis zu 10 Gbit/s
18,944800 € / Stunde
max. 11.821,56 € / Monat
Alle Preise inkl. 19 % MwSt.

Häufige Fragen zur RTX PRO 6000

Was ist ein GPU-Seed?

Ein GPU-Seed ist ein Cloud-Server mit einer oder mehreren dedizierten Grafikkarten. Sie richten darauf Ihre eigene Software ein und betreiben damit Ihre KI-Modelle und Anwendungen.

Welche GPU steht mir zur Verfügung?

Die NVIDIA RTX PRO 6000 Blackwell Server Edition (kurz SE) mit 96 GB GDDR7 VRAM. Sie buchen eine oder mehrere davon; jede wird Ihrem GPU-Seed dediziert zugewiesen.

Kann ich die Grafikkarte auch für Video nutzen?

Ja. Jede Grafikkarte steht Ihrem GPU-Seed vollständig zur Verfügung, mit ihrer vollen Leistung. Dazu gehören auch die vier Encoder und vier Decoder der Karte für Video (NVENC und NVDEC). Sie verarbeiten H.264, H.265 und AV1, H.264 und H.265 auch in 4:2:2.

Welche KI-Modelle kann ich einsetzen?

Grundsätzlich alle, die mit NVIDIA-Grafikkarten und CUDA arbeiten. Das gilt für die meisten gängigen Sprach- und Bildmodelle. Wie gut ein bestimmtes Modell läuft, hängt von seiner Größe und von der Anzahl der gebuchten Grafikkarten ab. Auf der Seite zur RTX PRO 6000 sehen Sie, wie viele Karten ein Modell braucht.

Erhalte ich eine fertige KI-Anwendung?

GPU-Seeds stellen die Infrastruktur für Ihre eigene Software bereit. Ihre Modelle und Anwendungen richten Sie selbst ein. Für Open-Weights-Modelle wie Llama, Mistral, Qwen oder gpt-oss planen wir One-Click-Apps, mit denen Sie ein Modell mit einem Klick starten.

Sind Grafiktreiber und CUDA vorinstalliert?

Ja, wenn Sie unser GPU-Image wählen. Dort sind Grafiktreiber und CUDA bereits eingerichtet, sodass Sie Ihre KI-Software direkt installieren können. Welche Versionen enthalten sind, sehen Sie bei der Auswahl des Images. Sie können auch jedes andere Image wählen, etwa Debian oder Ubuntu, und Treiber und CUDA selbst installieren.

Kann ich GPU-Seeds für ein einzelnes Projekt oder dauerhaft nutzen?

Beides. Für ein einzelnes Projekt nutzen Sie den GPU-Seed nur so lange, wie Sie ihn brauchen, abgerechnet wird pro Stunde. Im laufenden Betrieb sichern Sie Ihre Umgebung mit Snapshots und Backups. Maßgeblich sind die jeweils geltenden Produktkonditionen.

Wie funktioniert die Auswahl?

Sie wählen vor allem, wie viele Grafikkarten Ihr GPU-Seed bekommt. Mit der Anzahl der Karten wachsen auch vCPUs, Arbeitsspeicher und Speicherplatz, alle Größen und Preise sehen Sie in der Preistabelle. Danach legen Sie Standort, Image und Zugang fest und buchen bei Bedarf Backups dazu.

Wie schnell steht mein GPU-Seed bereit?

Ihr GPU-Seed ist nach wenigen Minuten einsatzbereit. Ist eine Größe gerade belegt, können Sie sie erst wieder buchen, sobald dort Kapazität frei wird.

Wann endet die Abrechnung?

Mit dem Löschen des GPU-Seeds. Ihn nur herunterzufahren reicht dafür nicht, weil die Grafikkarten weiter für Sie reserviert bleiben.

Was passiert mit meinen Daten, wenn ich den GPU-Seed lösche?

Systemlaufwerk und Snapshots werden mit dem GPU-Seed gelöscht, Backups sieben Tage später. Angehängte Volumes bleiben mit allen Daten erhalten.

Wie werden zusätzlicher Speicher und Traffic berechnet?

Jede Größe bringt Inklusivtraffic mit, die Menge sehen Sie in der Preistabelle. Wir betrachten den Traffic nicht pro GPU-Seed, sondern für Ihr ganzes Team: Der Inklusivtraffic aller Seeds wird zusammengezählt, anteilig vom Bestellzeitpunkt bis zum Monatsende. Es zählt nur ausgehender Traffic. Was darüber hinausgeht, berechnen wir pro TB. Zusätzlichen Speicher hängen Sie als Volume an, abgerechnet stundengenau nach der gebuchten Größe.

Bereit für Ihr eigenes Modell?

Eine bis acht NVIDIA RTX PRO 6000 Blackwell mit je 96 GB Grafikspeicher, abgerechnet pro Stunde und gehostet in Deutschland.