FrameTrain
HomeGuidesGPU Guide
HardwareKaufberatung 2026

Beste GPU für lokales
ML Training & LLM Fine-Tuning

VRAM ist das entscheidende Kriterium. Hier findest du für jedes Budget und jeden Anwendungsfall die richtige GPU – von der günstigen RTX 3060 bis zum Apple M4 Max.

Kurzfassung: VRAM-Faustregeln

6–8 GB

QLoRA auf 7B Modellen (gerade so)

RTX 3070, RTX 4060

12–16 GB

LoRA auf 7B, QLoRA auf 13B

RTX 3060 12G, RTX 4070

24 GB+

LoRA auf 13B, größere Batches

RTX 3090, RTX 4090

RTX 4090

Beste Wahl
24 GB VRAMca. ~1.800 €

Vorteile

  • Schnellste Consumer-GPU
  • 24 GB VRAM für 13B Modelle
  • CUDA 8.9 – alle Features

Nachteile

  • ✕Teuerste Option
  • ✕450W TDP – hoher Stromverbrauch

Geeignet für

  • 13B Modelle mit QLoRA
  • 7B Modelle mit Full LoRA
  • Schnelle Iterationszyklen

RTX 4070 Ti / 4080

Empfehlung
12–16 GB VRAMca. ~700–1.100 €

Vorteile

  • Sehr gute Performance/Preis-Ratio
  • Gut für 7B Modelle
  • Moderate Leistungsaufnahme

Nachteile

  • ✕13B Modelle nur mit QLoRA
  • ✕12 GB kann bei großen Batches eng werden

Geeignet für

  • 7B Modelle (LoRA & QLoRA)
  • Instruktions-Tuning
  • NLP-Klassifikation

RTX 3090 / 4070

Gut & Günstig
12–24 GB VRAMca. ~600–900 €

Vorteile

  • Sehr gutes Preis-Leistungs-Verhältnis
  • RTX 3090: 24 GB VRAM
  • CUDA 8.6 – breite Kompatibilität

Nachteile

  • ✕RTX 3090: Ältere Architektur, weniger CUDA-Kerne
  • ✕RTX 4070: Nur 12 GB VRAM

Geeignet für

  • Meiste 7B Modelle problemlos
  • LoRA & QLoRA Fine-Tuning

Apple M3 / M4 Pro & Max

Apple-Alternative
18–128 GB Unified VRAMca. ab ~2.500 € (Mac)

Vorteile

  • Sehr hohe Unified Memory Bandbreite
  • M3/M4 Max: bis 128 GB
  • Effizient & leise
  • Perfekt für macOS-Nutzer

Nachteile

  • ✕Teurer als äquivalente NVIDIA-Lösung
  • ✕MPS langsamer als CUDA für manche Ops
  • ✕Kein CUDA-Ökosystem

Geeignet für

  • Lokales LLM-Inferenz
  • Fine-Tuning über Metal (MPS)
  • Studio/Creative-Workflows

RTX 3060 12GB

Einsteiger
12 GB VRAMca. ~250–350 €

Vorteile

  • Günstigster Einstieg
  • 12 GB VRAM für QLoRA
  • Breite CUDA-Unterstützung

Nachteile

  • ✕Langsamer bei größeren Modellen
  • ✕Kein 7B-LoRA ohne Quantisierung

Geeignet für

  • QLoRA auf 7B Modellen
  • Kleine Klassifikations-Modelle
  • Zum Lernen & Experimentieren

Deine GPU ist kompatibel – starte jetzt

FrameTrain unterstützt alle NVIDIA-GPUs ab GTX 1060 (CUDA) und Apple Silicon M1–M4 (Metal). Ab 4,99€/Monat, jederzeit kündbar.

Jetzt starten
LoRA Guide