Dokumentation
Alles was du brauchst, um FrameTrain zu installieren, konfigurieren und effektiv zu nutzen.
KI-Training Coach ✨ – ML-Grundlagen, Loss-Kurven, LoRA & mehr
Der komplette Theorie-Guide für alle, die verstehen wollen wie ML-Training wirklich funktioniert
Installation
So richtest du FrameTrain auf deinem System ein
1. Account erstellen & zahlen
Registriere dich auf frame-train.com und wähle einen Plan. Nach der Zahlung erhältst du deinen API-Key per E-Mail.
Account erstellen2. Download
Lade die Desktop-App für dein Betriebssystem herunter:
Windows
Windows 10/11 (64-bit)
macOS
macOS 11+ (Intel & Apple Silicon)
Linux
Ubuntu 20.04+ (AppImage)
3. API-Key eingeben
Beim ersten Start wirst du nach deinem API-Key gefragt. Gib den Key ein, den du per E-Mail erhalten hast. Er wird lokal gespeichert – du musst ihn nur einmal eingeben.
4. Fertig!
FrameTrain ist jetzt einsatzbereit. Weiter mit dem Quick Start.
Installation erfolgreich!
FrameTrain läuft jetzt lokal auf deinem System. Kein Server, keine Cloud, volle Kontrolle.
Systemanforderungen
Minimum
- • CPU: 4 Kerne
- • RAM: 8 GB
- • GPU: NVIDIA GTX 1060 6GB oder Apple M1
- • Speicher: 10 GB frei
- • OS: Windows 10, macOS 11, Ubuntu 20.04
Empfohlen
- • CPU: 8+ Kerne
- • RAM: 16 GB
- • GPU: RTX 3060 12GB+ oder Apple M2 Pro/Max
- • Speicher: 50 GB+ frei (für große Modelle)
- • SSD empfohlen für schnellen Datenzugriff
Quick Start
Dein erstes Modell in 5 Schritten
Modell importieren
Öffne den Model Manager und importiere ein HuggingFace-Modell (z.B. bert-base-uncased) oder lade ein lokales Modell.
Im Suchfeld einfach die HuggingFace Model-ID eingeben und auf Herunterladen klicken.
Datensatz hochladen
Lade deinen Datensatz als CSV oder JSONL-Datei hoch. Minimale Struktur: text + label Spalten.
FrameTrain validiert den Datensatz automatisch und zeigt Vorschau der ersten Zeilen.
Training konfigurieren
Wähle Epochs, Batch-Size, Learning Rate und LoRA-Parameter. Für den Start empfehlen wir die Voreinstellungen.
Die Quick-Start-Voreinstellung ist optimal für die meisten 7B-Modelle mit LoRA.
Training starten
Klicke auf Training starten. FrameTrain trainiert lokal auf deiner GPU – keine Internetverbindung nötig.
Der Fortschrittsbalken und Live-Charts zeigen Loss und Accuracy in Echtzeit.
Modell testen
Nach dem Training kannst du das Modell direkt in der App testen. Gib Text ein und sieh die Vorhersagen.
Das Modell bleibt lokal gespeichert und kann jederzeit wieder geladen werden.
Herzlichen Glückwunsch!
Du hast dein erstes Modell mit FrameTrain trainiert. Im Versioning-Panel findest du alle gespeicherten Checkpoints.
Erstes Training
Ein komplettes Praxisbeispiel: Sentiment-Klassifikation
1. Datensatz erstellen
Erstelle eine CSV-Datei mit zwei Spalten: text (dein Eingabetext) und label (die Kategorie). Beispiel:
text,label "Das ist ein positiver Review",positive "Mir hat das nicht gefallen",negative "Sehr zufrieden mit dem Produkt!",positive
2. Modell wählen
Für Textklassifikation empfehlen wir:
- •bert-base-uncased – gut für Englisch, schnell
- •deepset/gbert-base – gut für Deutsch
- •distilbert-base-uncased – kleiner & schneller als BERT
3. Parameter einstellen
Empfohlene Startparameter für dieses Beispiel:
4. Training beobachten
Während des Trainings siehst du:
- 📈 Training Loss - sollte stetig sinken
- 📊 Validation Accuracy - sollte gegen 90%+ steigen
- ⚡ GPU-Auslastung - sollte bei 80-100% liegen
- 💾 Restzeit - geschätzte Trainingszeit
Profi-Tipp
Für das erste Training immer mit wenigen Epochs (2-3) und kleinem Datensatz starten. So siehst du schnell, ob die Konfiguration funktioniert.
Model Manager
Alle deine Modelle an einem Ort
Funktionen
HuggingFace Import
Importiere jedes Modell direkt vom HuggingFace Hub über Model-ID
Lokale Modelle
Lade Modelle von lokalem Pfad (SafeTensors, GGUF, PyTorch)
Modell-Übersicht
Alle importierten Modelle mit Größe, Format und Herkunft
Versionen
Jedes Modell kann mehrere trainierte Versionen haben
Modell importieren
So importierst du ein Modell von HuggingFace:
- 1.Öffne den Model Manager Tab
- 2.Klicke auf "Neues Modell" oder "HuggingFace Import"
- 3.Gib die Model-ID ein (z.B. meta-llama/Llama-3-8B)
- 4.Optional: HuggingFace-Token für private/Gated Modelle
- 5.Klicke auf Herunterladen – FrameTrain lädt automatisch alle nötigen Dateien
Empfohlene Startermodelle
bert-base-uncased
110MKlassiker für Text-Klassifikation auf Englisch. Schnell und gut erprobt.
Klassifikationdistilbert-base-uncased
66MLeichtere Version von BERT – gleich gut, aber doppelt so schnell.
Klassifikationmicrosoft/phi-3-mini-4k-instruct
3.8BKleines LLM ideal für LoRA Fine-Tuning auf Consumer-GPUs.
LLM Fine-Tuningmistralai/Mistral-7B-v0.1
7BStarkes Basismodell. Benötigt QLoRA auf GPUs unter 24 GB VRAM.
LLM Fine-TuningTraining Panel
Das Herzstück von FrameTrain
Training-Workflow
Modell & Dataset wählen
Wähle ein importiertes Modell und deinen hochgeladenen Datensatz aus den Dropdown-Menüs.
Hyperparameter konfigurieren
Stelle Epochs, Batch-Size, Learning Rate und LoRA-Parameter ein. Voreinstellungen für gängige Tasks verfügbar.
Training starten
Klicke auf Training starten. FrameTrain trainiert vollständig lokal – keine Cloud, keine Warteschlange.
Fortschritt überwachen
Live-Charts zeigen Loss, Accuracy und GPU-Auslastung in Echtzeit. Automatische Checkpoints.
Ergebnis speichern
Nach dem Training wird das Modell automatisch versioniert und lokal gespeichert.
Training-Steuerung
- Training starten: Startet das Training mit den aktuellen Einstellungen. Alle Parameter werden vor dem Start validiert.
- Training pausieren / stoppen: Das Training kann jederzeit gestoppt werden. Der letzte Checkpoint bleibt erhalten.
- Training fortsetzen: Nach einem Stopp kann das Training vom letzten Checkpoint aus fortgesetzt werden.
Schnelleinstellungen (Presets)
FrameTrain bietet vorkonfigurierte Trainingsprofile für häufige Anwendungsfälle:
Quick Start (7B LoRA)
Schnell & stabilQualität (7B QLoRA)
Höhere QualitätKlassifikation (BERT)
Für ClassifierExperimentell
Schneller TestDataset Upload
Unterstützte Formate und Best Practices
Unterstützte Formate
CSV (.csv)
JSONL (.jsonl)
JSON (.json)
HuggingFace Hub
So lädst du deinen Datensatz hoch
- 1.Klicke auf "Dataset" im linken Panel
- 2.Wähle "Datei hochladen" oder "HuggingFace Dataset"
- 3.Wähle deine CSV/JSONL-Datei
- 4.FrameTrain validiert die Datei und zeigt eine Vorschau
- 5.Konfiguriere Text-Spalte und Label-Spalte
Dataset-Vorbereitung
Wichtige Hinweise zur Datenvorbereitung:
- Mindestgröße: Mindestens 100 Beispiele pro Klasse für sinnvolle Ergebnisse.
- Klassen-Balance: Versuche, ungefähr gleich viele Beispiele pro Klasse zu haben.
- Textlänge: Texte können variieren, aber sehr kurze Texte (<5 Wörter) können die Qualität verschlechtern.
- Train/Val-Split: FrameTrain teilt den Datensatz automatisch (80/20). Du kannst den Split manuell anpassen.
Analyse
Trainingsmetriken verstehen und interpretieren
Wichtige Metriken
Training Loss
↓ sinktFehler des Modells auf den Trainingsdaten. Sollte während des Trainings kontinuierlich sinken.
Validation Loss
↓ sinktFehler auf den Validierungsdaten. Zeigt die Generalisierungsfähigkeit. Wenn deutlich höher als Train Loss: Overfitting.
Accuracy
↑ steigtAnteil korrekt klassifizierter Beispiele. Für Klassifikationsaufgaben. Gut ab ~85%.
Gradient Norm
stabil <5Größe der Gradienten. Bei sehr großen Werten (>10) kann Gradient Clipping helfen.
Häufige Probleme
Overfitting
Train Loss sinkt, Validation Loss steigt. Modell lernt Trainingsdaten auswendig statt zu generalisieren.
Lösung: mehr Daten, mehr Dropout (0.1-0.3), weniger Epochs oder Datensatz vergrößern.
Underfitting
Beide Losses sinken langsam oder nicht. Modell lernt nicht genügend.
Lösung: mehr Epochs, höhere Learning Rate, mehr LoRA-Rank oder anderes Modell wählen.
Testing & Inferenz
Trainierte Modelle direkt in der App testen
Funktionen
- Direkte Eingabe: Gib beliebigen Text ein und sieh die Modell-Vorhersage sofort.
- Confidence Scores: Zeigt die Wahrscheinlichkeit für jede Klasse an.
- Batch-Testing: Teste mehrere Texte auf einmal aus einer Datei.
- Versionsvergleich: Vergleiche Vorhersagen verschiedener Modellversionen.
Beispiel
Eingabe:
"Dieses Produkt ist fantastisch! Ich bin sehr zufrieden."
Ausgabe:
Versioning
Automatische Versionierung aller Trainingsartefakte
Was wird versioniert?
FrameTrain speichert nach jedem Training automatisch: Modell-Gewichte, Trainingsparameter, Metriken, Datensatz-Referenz und Timestamp.
Versioning-Workflow
Nach einem erfolgreichen Training wird automatisch ein Checkpoint erstellt.
Gib deiner Version einen sprechenden Namen (z.B. "v1.0-sentiment-de").
Wähle zwei Versionen und vergleiche ihre Metriken nebeneinander.
Exportiere jede Version als SafeTensors, GGUF oder PyTorch-Format.
Trainingshistorie
Im Historien-Panel siehst du alle vergangenen Trainings mit:
- •Datum & Uhrzeit
- •Verwendetes Modell & Datensatz
- •Finale Loss und Accuracy
- •Verwendete Hyperparameter
- •Dauer des Trainings
Training-Grundlagen
Die wichtigsten Konzepte des ML-Trainings
Fine-Tuning vs. From Scratch
Fine-Tuning (empfohlen)
- • Startet mit vortrainiertem Modell
- • Braucht weniger Daten (100-10.000)
- • Viel schneller (Minuten statt Wochen)
- • Bessere Ergebnisse bei kleinen Datensätzen
Training from Scratch
- • Modell von null trainieren
- • Braucht riesige Datenmengen (Millionen)
- • Sehr zeitaufwändig (Wochen bis Monate)
- • Benötigt massiv GPU-Ressourcen
Epochs & Batches
Epoch: Ein vollständiger Durchlauf durch den gesamten Datensatz. Batch: Eine Teilmenge des Datensatzes, die gleichzeitig verarbeitet wird. Steps: Anzahl der Parameteraktualisierungen = Datensatzgröße / Batch-Size.
Beispiel: 1000 Datenpunkte, Batch-Size 32:
1 Epoch = 1000 / 32 = ~31 Batches ✓
Loss & Accuracy
Training Loss
Misst den Fehler des Modells. Niedrigerer Loss = bessere Vorhersagen. Wird bei jeder Parameteraktualisierung berechnet.
Accuracy
Misst den Anteil korrekter Vorhersagen. Für Klassifikation: % der korrekt klassifizierten Beispiele. Ziel: so hoch wie möglich.
Hyperparameter
Wichtige Parameter und ihre Auswirkungen
Wichtige Hyperparameter
Learning Rate
Standard: 2e-4Wie groß die Parameteranpassungen sind. Zu hoch: Training divergiert. Zu niedrig: Training zu langsam.
Bereich: 1e-6 bis 1e-3
💡 Starte mit 2e-4 für LoRA, 2e-5 für Full Fine-Tuning
Batch Size
Standard: 4Wie viele Beispiele gleichzeitig verarbeitet werden. Größere Batches = stabilere Updates, aber mehr VRAM.
Bereich: 1 bis 64
💡 Bei VRAM-Problemen Batch-Size halbieren
Epochs
Standard: 3Wie oft der gesamte Datensatz durchlaufen wird. Mehr Epochs können zu Overfitting führen.
Bereich: 1 bis 20
💡 3-5 Epochs für die meisten Tasks optimal
LoRA Rank (r)
Standard: 16Größe der LoRA-Matrizen. Höherer Rank = mehr Kapazität, aber mehr VRAM und Trainingszeit.
Bereich: 4 bis 64
💡 r=16 ist ein guter Standard. Für wenig VRAM: r=8
Max Seq Length
Standard: 2048Maximale Tokenanzahl pro Eingabe. Längere Sequenzen = mehr VRAM.
Bereich: 128 bis 4096
💡 An die durchschnittliche Textlänge deiner Daten anpassen
LoRA Training
Parameter-effizientes Fine-Tuning
Was ist LoRA?
LoRA (Low-Rank Adaptation) ist eine Methode, Sprachmodelle mit einem Bruchteil des VRAM eines vollständigen Fine-Tunings anzupassen. Statt alle Modellparameter zu aktualisieren, fügt LoRA kleine "Adapter"-Matrizen ein.
Diese Adapter werden trainiert, während das Originalkörpermodell eingefroren bleibt. Ergebnis: 70-90% weniger VRAM bei vergleichbarer Qualität.
LoRA vs. Full Fine-Tuning
Full Fine-Tuning
- • Alle Parameter werden trainiert
- • 60-80 GB VRAM für 7B Modell
- • Sehr langsam
- • Ünderungen dauerhaft im Modell
LoRA Fine-Tuning
- • Nur Adapter-Matrizen werden trainiert
- • 8-18 GB VRAM für 7B Modell
- • Viel schneller
- • Adapter sind separate Dateien
LoRA Konfiguration
LoRA Rank (r)
Größe der niedrig-rangigen Matrizen. Höherer Rank = mehr Kapazität. Standard: 16
LoRA Alpha
Skalierungsfaktor für die LoRA-Gewichte. Meist auf den Rank-Wert gesetzt. Standard: 32
LoRA Dropout
Dropout-Rate für LoRA-Schichten. Hilft gegen Overfitting bei kleinen Datensätzen. Standard: 0.05
Target Modules
Welche Schichten adaptiert werden. Standard: q_proj, v_proj. Mehr Module = mehr Kapazität
QLoRA aktivieren
Für 4-Bit-Quantisierung (QLoRA) aktiviere "4-bit Loading" im Training Panel. Reduziert VRAM-Bedarf um ~50%.
Dataset-Formate
Alle unterstützten Formate im Detail
CSV-Format
Einfachstes Format. Erste Zeile = Header. Pflichtfelder: text, label.
text,label "Dies ist positiv",positive "Das gefällt mir nicht",negative "Sehr gut!",positive "Schrecklich",negative
JSONL-Format
Ein JSON-Objekt pro Zeile. Flexibler als CSV für komplexe Strukturen.
{
"text": "Dies ist positiv",
"label": "positive",
"source": "review"
}
{
"text": "Das gefällt mir nicht",
"label": "negative",
"source": "comment"
}Best Practices
- Datenmenge: Mindestens 100, idealerweise 500+ Beispiele pro Klasse.
- Klassen-Balance: Ähnliche Anzahl Beispiele pro Klasse für ausgewogenes Training.
- Datensätze splitten: 80% Training, 20% Validation. FrameTrain macht dies automatisch.
- Text bereinigen: Entferne HTML-Tags, sonderzeichen, doppelte Leerzeichen.
- Labels konsistent: Schreibweise der Labels muss konsistent sein ("positive" != "Positive").
Monitoring
Training-Fortschritt in Echtzeit verfolgen
Live-Monitoring Panel
Während des Trainings zeigt FrameTrain folgende Echtzeit-Informationen:
- GPU-Auslastung: VRAM-Verbrauch und GPU-Temperatur in Echtzeit
- Loss-Kurven: Training Loss und Validation Loss als interaktive Linien-Charts
- Accuracy-Chart: Accuracy-Verlauf und Gradient Norm
- Zeitschätzung: Vergangene Zeit und geschätzte Restzeit
Automatische Checkpoints
FrameTrain speichert automatisch Checkpoints:
- Am Ende jeder Epoch
- Bei Verbesserung des Validation Loss (Best Model Saving)
- Bei manuellen Stops
- Als vollständige Modell-Snapshots
Optimierung
Training schneller und speichereffizienter machen
Batch-Size Optimierung
Die Batch-Size ist der wichtigste Faktor für VRAM-Verbrauch und Trainingsgeschwindigkeit:
LoRA vs. Full Fine-Tuning
Für die meisten Anwendungsfälle ist LoRA die bessere Wahl:
Standard Fine-Tuning:
Alle Parameter aktualisieren, viel VRAM, langsam.
LoRA Fine-Tuning:
Nur Adapter-Matrizen trainieren, wenig VRAM, schnell, vergleichbare Ergebnisse.
Gradient Checkpointing
Aktiviere Gradient Checkpointing in den Trainingseinstellungen um ~30-40% VRAM zu sparen. Das Training wird etwas langsamer, aber du kannst größere Modelle trainieren.
Beispiel: 7B Modell mit LoRA: 18 GB VRAM → mit Gradient Checkpointing: 12 GB VRAM
GPU Setup
NVIDIA CUDA und Apple Silicon konfigurieren
NVIDIA CUDA Setup
FrameTrain erkennt NVIDIA-GPUs automatisch. Voraussetzungen:
NVIDIA-Treiber installieren
Aktuellen Treiber von nvidia.com/drivers herunterladen und installieren (Version 525+).
CUDA automatisch
CUDA wird automatisch mit FrameTrain installiert – keine separate Installation notwendig.
GPU verifizieren
Im FrameTrain Dashboard: Einstellungen → GPU Info. Zeigt VRAM, CUDA-Version und GPU-Name.
Apple Silicon (M1-M4)
Apple Silicon wird vollständig unterstützt – keine zusätzliche Konfiguration nötig. FrameTrain nutzt automatisch Metal Performance Shaders (MPS) für GPU-Beschleunigung.
Unterstützte Hardware
NVIDIA GPUs (CUDA)
- • GTX 1060 6GB (Minimum)
- • GTX 1080 Ti
- • RTX 2080/2080 Ti
- • RTX 3060/3070/3080/3090
- • RTX 4060/4070/4080/4090
- • A100, A6000, H100 (Workstation)
Apple Silicon (MPS)
- • M1 (8 GB+ Unified Memory)
- • M1 Pro / M1 Max
- • M2 / M2 Pro / M2 Max / M2 Ultra
- • M3 / M3 Pro / M3 Max
- • M4 / M4 Pro / M4 Max
Export
Trainierte Modelle exportieren und einsetzen
Exportformate
SafeTensors (.safetensors)
Empfohlen – sicher & schnell zu ladenPyTorch (.pt / .bin)
Kompatibel mit allen PyTorch-basierten FrameworksGGUF (.gguf)
Für llama.cpp, Ollama, LM StudioLoRA Adapter only
Teilen und verteiltes DeploymentDeployment-Möglichkeiten
- Lokal: Das Modell direkt in FrameTrain oder einer lokalen Anwendung nutzen.
- llama.cpp: GGUF-Export für effiziente Inferenz auf CPU oder GPU mit llama.cpp.
- HuggingFace: SafeTensors-Export für direktes Laden mit HuggingFace Transformers.
- Ollama: GGUF-Export für einfachen Einsatz mit Ollama als lokaler LLM-Server.
Troubleshooting
Lösungen für häufige Probleme
Häufige Fehler
CUDA out of memory
Ursache: Batch-Size zu groß, Modell zu groß für VRAM
Lösung: Batch-Size halbieren, Gradient Checkpointing aktivieren, QLoRA statt LoRA verwenden.
Training Loss explodiert (NaN/Inf)
Ursache: Learning Rate zu hoch, Datenproblem
Lösung: Learning Rate um Faktor 10 reduzieren. Datensatz auf NaN-Werte prüfen.
API-Key ungültig
Ursache: Key abgelaufen, Falsches Format
Lösung: Neuen Key auf der Payment-Seite generieren. Sicherstellen, dass kein Leerzeichen am Anfang/Ende.
GPU nicht erkannt
Ursache: Treiber veraltet, CUDA nicht installiert
Lösung: NVIDIA-Treiber updaten (525+). Unter Windows: Geräte-Manager → NVIDIA. Unter Linux: nvidia-smi.
Model Download schlägt fehl
Ursache: Keine Internetverbindung, HuggingFace-Token fehlt
Lösung: Internetverbindung prüfen. Für Gated-Modelle: HuggingFace-Token in den Einstellungen eingeben.
Einstellungen
FrameTrain konfigurieren
Alle Einstellungen
API-Key
Dein Lizenzschlüssel. Ändere ihn hier, wenn du einen neuen Key hast.
Sprache / Language
Oberflächensprache: Deutsch oder Englisch.
Modell-Speicherpfad
Wo Modelle lokal gespeichert werden. Standard: ~/FrameTrain/models
HuggingFace Token
Notwendig für Gated-Modelle (z.B. Llama, Mistral). Token auf huggingface.co/settings/tokens erstellen.
GPU-Auswahl
Bei mehreren GPUs: wähle welche GPU fürs Training genutzt werden soll.
Theme
Helles oder dunkles Design oder eines der 8 vordefinierten Themes.
Auto-Updates
Automatische Update-Prüfung beim Start aktivieren/deaktivieren.
Themes
Passe das Aussehen von FrameTrain an
Dark Themes
Standard für abend- und nachtliches Arbeiten:
Cosmic Dark (Standard)
Dark Mode
Midnight Blue
Dark Mode
Forest Green
Dark Mode
Deep Purple
Dark Mode
Light Themes
Für taghelles Arbeiten:
Arctic White
Light Mode
Warm Sand
Light Mode
Soft Mint
Light Mode
Rose Quartz
Light Mode
Presets
Vorkonfigurierte Trainingsprofile
Verfügbare Presets
Quick Start (7B LoRA)
Qualität Max (7B QLoRA)
BERT Klassifikation
Micro Fine-Tune
Updates
FrameTrain immer aktuell halten
Automatische Updates
FrameTrain prüft beim Start automatisch auf neue Versionen.
- Neue Releases werden automatisch erkannt
- Du wirst über Änderungen informiert
- Installation mit einem Klick
- Alle Einstellungen bleiben erhalten
Version prüfen
Aktuelle Version findest du unter:
Einstellungen → Über FrameTrain → Version