Hardware · Stand 28. Oktober 2026
Geeignete NVIDIA-Grafikkarten
Grafikspeicher, LLM-Leistung und Preise im Vergleich. Die RTX 3090 ist die Referenz mit Faktor 1,00. Welches Modell auf einer Karte läuft, hängt auch von Quantisierung, Kontextlänge und Arbeitsspeicher ab.
GeForce RTX
Deutschland · Preise in Euro · TGP in WattGebrauchtpreise: Median abgeschlossener eBay.de-Verkäufe der letzten 30 Tage, Stand 27.10.2026. „≈“ kennzeichnet geschätzte Leistungsfaktoren. „–“ bedeutet: kein sinnvoll vergleichbarer aktueller Neupreis.
40 von 40 Grafikkarten
| RTX 2060 Super | 8 GB | 0,38Messwert | 165 € | – | 175 W |
|---|---|---|---|---|---|
| RTX 2070 | 8 GB | ≈ 0,45–0,55Schätzung | 160 € | – | 175 W |
| RTX 2070 Super | 8 GB | 0,56Messwert | 183 € | – | 215 W |
| RTX 2080 | 8 GB | ≈ 0,48–0,58Schätzung | 200 € | – | 215 W |
| RTX 2080 Super | 8 GB | ≈ 0,55–0,65Schätzung | 206 € | – | 250 W |
| RTX 3050 | 8 GB | ≈ 0,25–0,35Schätzung | 178 € | – | 130 W |
| RTX 3060 | 8 GB | ≈ 0,30–0,42Schätzung | 180 € | – | 170 W |
| RTX 3060 Ti | 8 GB | 0,58Messwert | 239 € | – | 200 W |
| RTX 3070 | 8 GB | ≈ 0,58–0,68Schätzung | 269 € | – | 220 W |
| RTX 3070 Ti | 8 GB | ≈ 0,65–0,75Schätzung | 309 € | – | 290 W |
| RTX 4060 | 8 GB | ≈ 0,35–0,45Schätzung | 300 € | – | 115 W |
| RTX 4060 Ti | 8 GB | 0,40Messwert | 354 € | – | 160 W |
| RTX 5050 | 8 GB | ≈ 0,40–0,50Schätzung | 300 € | 350 € | 130 W |
| RTX 5060 | 8 GB | ≈ 0,60Schätzung | 351 € | 447 € | 145 W |
| RTX 5060 Ti | 8 GB | ≈ 0,57Schätzung | 424 € | 498 € | 180 W |
| RTX 3080 | 10 GB | 0,88Messwert | 390 € | – | 320 W |
| RTX 2080 Ti | 11 GB | 0,68Messwert | 300 € | – | 250 W |
| RTX 3060 | 12 GB | 0,48Messwert | 301 € | – | 170 W |
| RTX 3080 | 12 GB | ≈ 0,90–1,00Schätzung | 433 € | – | 350 W |
| RTX 3080 Ti | 12 GB | ≈ 0,95–1,05Schätzung | 520 € | – | 350 W |
| RTX 4070 | 12 GB | ≈ 0,65–0,75Schätzung | 530 € | – | 200 W |
| RTX 4070 Super | 12 GB | ≈ 0,70–0,80Schätzung | 629 € | – | 220 W |
| RTX 4070 Ti | 12 GB | ≈ 0,75–0,85Schätzung | 699 € | – | 285 W |
| RTX 5070 | 12 GB | 0,81Messwert | 700 € | 842 € | 250 W |
| RTX 4060 Ti | 16 GB | ≈ 0,40Schätzung | 547 € | – | 165 W |
| RTX 5060 Ti | 16 GB | 0,57Messwert | 600 € | 760 € | 180 W |
| RTX 4070 Ti Super | 16 GB | 0,84Messwert | 860 € | – | 285 W |
| RTX 4080 | 16 GB | 0,90Messwert | 922 € | – | 320 W |
| RTX 4080 Super | 16 GB | 0,94Messwert | 1.100 € | – | 320 W |
| RTX 5070 Ti | 16 GB | 1,12Messwert | 1.100 € | 1.289 € | 300 W |
| RTX 5080 | 16 GB | 1,15Messwert | 1.400 € | 1.808 € | 360 W |
| RTX 3090 (Referenz) | 24 GB | 1,00Messwert | 1.399 € | – | 350 W |
| RTX 3090 Ti | 24 GB | 1,08Messwert | 1.700 € | – | 450 W |
| RTX 4090 | 24 GB | 1,18Messwert | 2.850 € | 3.990 €* | 450 W |
| RTX 5090 | 32 GB | 1,83Messwert | 5.387 € | 7.456 € | 575 W |
* RTX 4090: teurer Restbestand, zuletzt um 3.990 € gelistet. RTX 5090: der Neupreis von 7.456 € bezieht sich auf einen luftgekühlten Einstieg; eine Ausführung mit Wasserkühlblock war ab 7.367 € erfasst. RTX 3060 8 GB und RTX 3080 12 GB: kleine Gebrauchtpreis-Stichproben.
Workstation-Karten
Ergänzende HardwareoptionenFür kompakte Gehäuse, geringere GPU-Nennleistung oder getrennte GPU-Rollen. Eignung und Laufzeitumgebung sind für die jeweilige Modellkonfiguration zu prüfen.
| Quadro RTX 4000 | 8 GB | 0,41Messwert | 200 € | – | 160 W |
|---|---|---|---|---|---|
| RTX A1000 | 8 GB | ≈ 0,20–0,30Schätzung | – | ca. 470 € | 50 W |
| Quadro T1000 | 8 GB | ≈ 0,15–0,20Schätzung | k. A.* | – | 50 W |
| RTX A4000 | 16 GB | 0,53Messwert | 912 € | – | 140 W |
| RTX 2000 Ada | 16 GB | 0,32Messwert | – | 1.024 € | 70 W |
* Quadro T1000: Der erfasste Gebrauchtmedian von 208 € war nicht eindeutig auf die 8-GB-Ausführung beschränkt und wird deshalb nicht als belastbarer Preis übernommen. Der Leistungsfaktor ist geschätzt.
Keine Grafikkarte passt zu dieser Auswahl. Bitte Suche oder Speicherfilter ändern.
Konfigurationen im Vergleich
Kartenkosten und nominelle GPU-Leistung aus demselben Datenstand. Eine Kombination aus zwei Karten addiert ihren Grafikspeicher nicht automatisch zu einem gemeinsam nutzbaren Speicher.
| Konfiguration | Karten gebraucht | GPU-Nennleistung | Wesentlicher Vorteil |
|---|---|---|---|
| 2 × RTX 2070 | 320 € | 350 W | Whisper und LLM auf separaten GPUs |
| 2 × RTX 2070 Super | 366 € | 430 W | Etwas höhere LLM-Leistung je Karte |
| RTX 3060 Ti 8 GB | 239 € | 200 W | Günstiger Einbenutzer-Test |
| RTX 5060 Ti 16 GB | 600 € | 180 W | 16 GB zusammenhängender VRAM |
| RTX 4070 Ti Super 16 GB | 860 € | 285 W | Höhere Rechenleistung und 16 GB |
| RTX 3090 24 GB | 1.399 € | 350 W | Viel VRAM, bekannte Referenz |
| RTX 5090 32 GB | 5.387 € | 575 W | Höchste Leistung und größter VRAM |
GPU-Nennleistung ohne CPU und restliches System. Netzteil, Kühlung und Platz im Gehäuse müssen zur gewählten Ausstattung passen.
Methodik und Quellen
- Leistungsfaktor: öffentliche llama.cpp-CUDA-Messung mit Llama 2 7B Q4_0,
tg128, ohne Flash Attention. RTX 3090: 158,16 Token/s = Faktor 1,00. Werte mit „≈“ sind Schätzungen. - Einordnung: Der Faktor gilt für die Textgenerierung eines kleinen, vollständig im Grafikspeicher liegenden LLM. Er ist kein gemeinsamer Geschwindigkeitsfaktor für Spracherkennung, Sprecherzuordnung und LLM. Bei der Eingabeverarbeitung (
pp512) liegen RTX 4090 beziehungsweise RTX 5090 im selben Vergleich bei etwa 2,32 beziehungsweise 2,72 gegenüber der RTX 3090. - Preise: deutscher Markt, Gebrauchtmediane laut HWIndex zum 27.10.2026; neue Karten nach erfassten Händlerpreisen. Die Preise sind ein datierter Vergleich und keine Live-Angebote.
- TGP/TBP: nominelle maximale Grafikkartenleistung. Daraus lässt sich der tatsächliche Stromverbrauch eines Kienzledoku-Durchlaufs nicht unmittelbar berechnen.
