WZ-IT Logo
AnleitungProxmox

GPU auf Proxmox: PCIe-Passthrough und NVIDIA vGPU im Überblick

Timo WevelsiepTimo WevelsiepAktualisiert: 09.07.2026

Hinweis zum Inhalt: Versionen, Befehle und Preise können sich ändern. Bitte prüfen Sie kritische Schritte vor dem produktiven Einsatz eigenständig. Dieser Leitfaden ersetzt keine individuelle Beratung.

GPUs in Proxmox sind vom Bastelthema zum Enterprise-Feature geworden: Seit NVIDIA Proxmox VE als vGPU-Plattform offiziell unterstützt, lassen sich KI- und VDI-Workloads sauber virtualisieren. Es gibt zwei grundverschiedene Wege - dieser Guide ordnet beide ein (Stand Juli 2026).

Weg 1: PCIe-Passthrough - eine Karte, eine VM

Beim Passthrough reicht Proxmox die GPU komplett an eine VM durch. Voraussetzungen: IOMMU (Intel VT-d bzw. AMD-Vi) muss CPU-seitig vorhanden und im BIOS/UEFI aktiviert sein. Bei Kerneln vor 6.8 gehört intel_iommu=on in die Kernel-Parameter, seit 6.8 ist es auf Intel-Systemen Standard. Dazu kommen die VFIO-Module, und die GPU braucht eine eigene IOMMU-Gruppe. Als VM-Konfiguration haben sich der Maschinentyp q35 und OVMF (UEFI) als Best Practice etabliert.

Die Grenzen sind klar: Eine Karte gehört genau einer VM, der Host verliert den Zugriff darauf, und eine VM mit durchgereichtem Gerät kann nicht live migriert werden. Dafür kostet Passthrough nichts extra und funktioniert auch mit Consumer-Karten.

Weg 2: NVIDIA vGPU - eine Karte, viele VMs

Seit vGPU-Software 18 ist Proxmox VE eine offiziell von NVIDIA unterstützte vGPU-Plattform (Proxmox-Ankündigung vom 19.03.2025). Stand Juli 2026 gilt: vGPU 18 ist bereits EOL (März 2026), aktuell sind vGPU 20 (Production, Support bis März 2027) und vGPU 19 (LTS, bis Juli 2028). Das Proxmox-Wiki führt getestete Kombinationen, darunter PVE 9.2 mit vGPU 19.5 und 20.1.

Unterstützt sind die GPUs der offiziellen NVIDIA-Liste - Datacenter- und Pro-Karten wie die RTX A5000 oder die RTX PRO 6000 Blackwell. Ab der Ampere-Generation ist SR-IOV Voraussetzung; Proxmox bringt dafür den pve-nvidia-vgpu-helper und den pve-nvidia-sriov-Service mit. Die vGPU-Instanzen werden als Mediated Devices über PCI-Resource-Mappings an die VMs angebunden - damit lassen sie sich im Cluster sauber je Node definieren.

Lizenzierung und Kosten

NVIDIA lizenziert pro Concurrent User (CCU) als Jahres-Subscription oder Perpetual-Lizenz, alternativ pro GPU und Jahr. Die Editionen: vApps, vPC und RTX vWS mit Listenpreisen von 10, 50 bzw. 250 US-Dollar je CCU und Jahr (Subscription). Die Lizenzen verteilt ein Lizenz-Server - CLS in der NVIDIA-Cloud oder DLS im eigenen Rechenzentrum. Ohne gültige Lizenz drosselt die vGPU nach 20 Minuten. Wichtig für den Ernstfall: Support-Tickets bei NVIDIA setzen ein vGPU-Entitlement und eine Proxmox-Subscription voraus.

Consumer-GPUs: die ehrliche Einordnung

GeForce-Karten bekommen offiziell kein vGPU. Community-Unlocks wie vgpu_unlock funktionieren nur mit älteren Architekturen, Intel-iGPU-SR-IOV braucht inoffizielle DKMS-Module, und Intels GVT-g unterstützt nur alte iGPUs. Fürs Homelab legitim - für Produktion raten wir ab: fragile Updates, keine Herstellerunterstützung, kein Support-Pfad.

Schritt für Schritt zur GPU-VM

  1. IOMMU aktivieren und prüfen: VT-d/AMD-Vi im BIOS einschalten, Kernel-Parameter je nach Version setzen, IOMMU-Gruppen kontrollieren.
  2. Weg wählen: exklusive Karte per Passthrough oder geteilte Datacenter-GPU per vGPU.
  3. Treiber und Mapping einrichten: VFIO binden bzw. NVIDIA-Host-Treiber plus SR-IOV und PCI-Resource-Mapping.
  4. VM zuweisen und testen: q35 + OVMF, Gast-Treiber installieren, Last unter realen Bedingungen fahren.

Die wichtigsten Befehle

IOMMU verifizieren (PVE-Wiki: PCI(e) Passthrough):

dmesg | grep -e DMAR -e IOMMU -e AMD-Vi
# IOMMU-Gruppen aller PCI-Geräte anzeigen:
pvesh get /nodes/{node}/hardware/pci --pci-class-blacklist ""

Für Passthrough die VFIO-Module laden (seit Kernel 6.2 ohne das obsolete vfio_virqfd):

printf 'vfio\nvfio_iommu_type1\nvfio_pci\n' >> /etc/modules
update-initramfs -u -k all && reboot

Für vGPU auf SR-IOV-Karten (Ampere und neuer) laut PVE-Wiki: NVIDIA vGPU:

apt install pve-nvidia-vgpu-helper
pve-nvidia-vgpu-helper setup
# vGPU-KVM-Treiber aus dem NVIDIA-Lizenzportal mit DKMS installieren:
./NVIDIA-Linux-x86_64-<version>-vgpu-kvm.run --dkms
# Virtual Functions aktivieren (PCI-ID anpassen, @ALL für alle GPUs):
systemctl enable --now pve-nvidia-sriov@0000:01:00.0.service

Danach in der GUI unter Datacenter → Resource Mappings die Virtual Functions mit „Use with mediated devices" mappen und der VM als PCI-Gerät samt mdev-Typ zuweisen - per CLI etwa qm set <VMID> -hostpci0 01:00.4,mdev=nvidia-660.

Praxis: 1.200 Nutzer auf vGPU

Dass das trägt, zeigt die FH St. Pölten: Die „CampusCloud" auf Proxmox versorgt rund 1.200 Nutzer, in der Spitze 200 gleichzeitig, mit Time-sliced vGPUs auf H100-, H200- und RTX-PRO-6000-Hardware. Studierende bekommen eine GPU-VM in unter zwei Minuten, die GPU-Auslastung liegt deutlich höher als mit dedizierten Workstations - und die Plattformwahl fiel bewusst gegen Vendor-Lock-in.

Unser Vorgehen bei WZ-IT

GPU-Virtualisierung ist bei uns Teil eines größeren Themas: GPU-Cluster für KI-Workloads planen und betreiben wir End-to-End - von der Hardware-Auswahl über GPU-Server bis zur fertigen KI-Infrastruktur mit Inferenz-Stack. Die Proxmox-Ebene darunter übernehmen wir im Managed Proxmox ab 179,90 € pro Node und Monat. Ob Passthrough, vGPU oder ein dedizierter KI-Server der richtige Weg ist, klären wir in einem kostenlosen Erstgespräch.

Sie möchten Proxmox nicht selbst betreiben? WZ-IT übernimmt Einrichtung, Betrieb und Wartung – DSGVO-konform aus Deutschland.

Häufig gestellte Fragen

Antworten auf die wichtigsten Fragen

PCIe-Passthrough gibt einer einzigen VM die ganze Karte: maximale Leistung, keine Lizenzkosten, aber exklusiv. NVIDIA vGPU teilt eine Datacenter-GPU auf mehrere VMs auf - richtig für VDI und Multi-Tenant-KI, dafür mit Lizenzkosten und unterstützter Hardware als Voraussetzung.

Nein. Eine VM mit durchgereichtem PCIe-Gerät kann nicht live migriert werden, der Gerätezustand steckt in der physischen Karte. Wer Wartungsfenster ohne Downtime braucht, plant geplante Neustarts der GPU-VMs ein oder verteilt Workloads so, dass einzelne VMs pausieren dürfen.

Offiziell nein - NVIDIA vGPU gibt es nur für die Karten der offiziellen Unterstützungsliste (Datacenter- und Pro-Serien). Community-Unlocks wie vgpu_unlock funktionieren nur mit älteren Architekturen, Intel-iGPU-SR-IOV läuft über inoffizielle DKMS-Module. Für Produktion raten wir ehrlich davon ab; GeForce-Karten lassen sich aber per Passthrough exklusiv an eine VM geben.

Lizenziert wird pro Concurrent User (CCU) als Jahres-Subscription oder Perpetual-Lizenz, alternativ pro GPU und Jahr. Die Editionen vApps, vPC und RTX vWS liegen laut Liste bei 10, 50 bzw. 250 US-Dollar je CCU und Jahr (Subscription). Dazu kommt ein Lizenz-Server (CLS in der NVIDIA-Cloud oder DLS im eigenen Haus); unlizenzierte vGPUs drosseln nach 20 Minuten.

Ja. Die FH St. Pölten betreibt mit der „CampusCloud“ eine Proxmox-Plattform mit rund 1.200 Nutzern und bis zu 200 gleichzeitigen Sessions auf Time-sliced vGPUs - auf H100-, H200- und RTX-PRO-6000-Hardware, mit GPU-VMs in unter zwei Minuten. Für dedizierte KI-Infrastruktur planen und betreiben wir GPU-Server und Cluster End-to-End.

Seit vGPU-Software 18 ist Proxmox VE eine von NVIDIA offiziell unterstützte Plattform. Stand Juli 2026 ist vGPU 18 bereits EOL; aktuell sind vGPU 20 (Production, Support bis März 2027) und vGPU 19 (LTS, bis Juli 2028). Das Proxmox-Wiki listet getestete Kombinationen, unter anderem PVE 9.2 mit vGPU 19.5 und 20.1.

Lassen Sie uns über Ihre Idee sprechen

Ob konkrete IT-Herausforderung oder einfach eine Idee - wir freuen uns auf den Austausch. In einem kurzen Gespräch prüfen wir gemeinsam, ob und wie Ihr Projekt zu WZ-IT passt.

E-Mail
[email protected]

Führende Unternehmen vertrauen WZ-IT

  • Rekorder
  • Keymate
  • Führerscheinmacher
  • SolidProof
  • ARGE
  • Boese VA
  • nextGYM
  • Maho Management
  • Golem.de
  • Millenium
  • Paritel
  • Yonju
  • EVADXB
  • Mr. Clipart
  • Aphy
  • Negosh
  • ABCO Water Systems
Timo Wevelsiep & Robin Zins - CEOs of WZ-IT

Timo Wevelsiep & Robin Zins

Geschäftsführer

1/3 - Themenauswahl33%

Worum geht es bei Ihrer Anfrage?

Wählen Sie einen oder mehrere Bereiche, bei denen wir Sie unterstützen dürfen.