KI-Modelle lokal
auf deinem Mac trainieren
FrameTrain führt LoRA- und QLoRA-Fine-Tuning direkt auf Apple Silicon aus – über Apples Metal Performance Shaders (MPS). Keine NVIDIA-GPU, kein CUDA, keine Cloud: Daten und Modelle bleiben auf deinem Mac.
Warum Apple Silicon stark für lokales Training ist
Apple-Silicon-Chips (M1, M2, M3, M4) vereinen CPU, GPU und Neural Engine mit Unified Memory: Die GPU kann den gesamten Arbeitsspeicher nutzen statt nur einen kleinen dedizierten VRAM-Pool. Ein 32-GB-Mac arbeitet damit mit Modellen, für die sonst eine deutlich teurere NVIDIA-Karte nötig wäre.
FrameTrain spricht die GPU über Metal MPS an – dasselbe Backend, das PyTorch auf macOS nutzt. Du bekommst GPU-beschleunigtes Training ohne CUDA, und alles läuft offline: DSGVO-konform by design.
Kein CUDA nötig
Unified Memory
GPU und CPU teilen sich einen Speicherpool – mehr RAM ist fürs Modell nutzbar als auf einer vergleichbaren dedizierten GPU.
Metal-MPS-Beschleunigung
PyTorch läuft über Apples Metal-Backend, Training ist also auf jedem M-Mac out of the box GPU-beschleunigt.
Komplett lokal & privat
Datensätze und trainierte Modelle verlassen deinen Rechner nie. Kein Cloud-Account, kein Upload, kein AV-Vertrag nötig.
Was schafft dein Mac?
Praktische Orientierung nach Unified Memory. Das sind Richtwerte, keine festen Benchmarks – die reale Machbarkeit hängt von Quantisierung, Sequenzlänge, Batch-Size und Basismodell ab.
| Mac / Chip | Unified Memory | Realistische Nutzung |
|---|---|---|
| MacBook Air M1 / M2 | 8 GB | Klassische ML-Modelle, kleine Netze, quantisierte 1–3B-LoRA-Experimente |
| MacBook Pro M2 / M3 | 16 GB | LoRA-/QLoRA-Fine-Tuning von 7B-Modellen (quantisiert), kleine Full-Fine-Tunes |
| MacBook Pro M3 / M4 Pro | 18–24 GB | Komfortables 7B-LoRA- & QLoRA-Fine-Tuning, größere Datensätze |
| MacBook Pro / Studio M-Serie Max | 32–64 GB | 7B–13B-Fine-Tuning, längere Sequenzen, schnellere Iteration |
| Mac Studio M-Serie Ultra | 64–192 GB | 13B+ Modelle und mehrere Experimente parallel |
Faustregel: QLoRA (4-bit) halbiert den Speicherbedarf gegenüber Standard-LoRA grob – damit rückt die nächsthöhere Stufe in Reichweite.
So läuft Training auf dem Mac
- 1
Modell wählen
Hugging-Face-Modell importieren oder ein lokales laden – direkt in der GUI.
- 2
Datensatz vorbereiten
Importieren, in Train/Validation/Test splitten und vor dem Training prüfen.
- 3
LoRA / QLoRA konfigurieren
Rank, Lernrate und Epochen setzen – mit sinnvollen Defaults für Apple Silicon.
- 4
Auf MPS trainieren
Training läuft auf der Metal-GPU, mit Live-Loss-Kurve und Trainingsanalyse.
- 5
Versionieren & exportieren
Jeder Lauf wird versioniert; Ergebnis exportieren (inkl. GGUF) oder lokal via Ollama nutzen.
Voraussetzungen
- Apple-Silicon-Mac (M1, M2, M3 oder M4 – jede Variante)
- macOS 13 Ventura oder neuer
- Mindestens 8 GB Unified Memory – 16 GB+ empfohlen für 7B-LLMs
- Genügend freier Speicher für Modelle und Checkpoints (10–50 GB je nach Modell)
- Keine NVIDIA-GPU und kein CUDA erforderlich
Apple-Silicon-FAQ
Unterstützt FrameTrain Apple Silicon (M1, M2, M3, M4)?
Ja. FrameTrain läuft nativ auf allen Apple-Silicon-Chips und nutzt Metal MPS für GPU-beschleunigtes Training. Intel-Macs sind nicht der Fokus – ein M-Chip wird empfohlen.
Brauche ich eine NVIDIA-GPU oder CUDA, um auf dem Mac zu trainieren?
Nein. Auf macOS beschleunigt FrameTrain das Training über Apples Metal-Backend (MPS). CUDA ist nur auf Windows/Linux mit NVIDIA-GPUs relevant.
Kann ich ein 7B-LLM auf meinem Mac fine-tunen?
In der Regel ja ab etwa 16 GB Unified Memory, mit LoRA oder QLoRA. Ab 32 GB sind auch größere Modelle und längere Sequenzen möglich.
Ist Training auf Apple Silicon langsamer als auf einer NVIDIA-GPU?
Bei schweren Workloads ist eine High-End-NVIDIA-GPU meist schneller. Der Vorteil von Apple Silicon ist Unified Memory und dass alles lokal und leise auf dem Laptop läuft – für LoRA/QLoRA-Fine-Tuning ist es sehr leistungsfähig.
Trainiere auf deinem Mac – noch heute
Lade FrameTrain und starte dein erstes lokales Fine-Tuning auf Apple Silicon in wenigen Minuten.