Wie LoRA funktioniert
Standard Fine-Tuning: Alle Gewichte des Modells werden trainiert → Teuer (GPU), langsam, viel Speicher
LoRA:
Original Gewichte W (eingefroren)
+
LoRA Matrizen A × B (trainierbar, klein)
=
W + A×B (effektiv neue Gewichte)
A und B sind niedrigrangige Matrizen — viel kleiner als das Originalmodell.
Vorteile
| Aspekt | Standard Fine-Tuning | LoRA |
|---|---|---|
| Trainierbare Parameter | 100% | 0.1–1% |
| GPU-Speicher | Viel | Wenig |
| Trainingszeit | Tage | Stunden |
| Qualität | Maximal | Annähernd gleich |
| Speicherplatz | Ganzes Modell | Nur Adapter (~MB) |
Anwendungen
- Stil-Training: Modell auf spezifischen Zeichenstil anpassen
- Charakter-Konsistenz: Immer gleiche Figuren in Bildgenerierung (IIO-Nutzung)
- Domänen-Anpassung: Modell auf Fachterminologie spezialisieren
- Sprach-Fine-Tuning: Bessere Leistung für spezifische Sprache
DSGVO und LoRA
LoRA-Adapter können auf sensiblen internen Daten trainiert werden:
- Training lokal (kein Cloud-Transfer)
- Adapter enthält kein direktes “Erinnern” der Trainingsdaten
- Aber: Membership Inference Attacks möglich → Datenschutzfolgenabschätzung empfohlen
Wenn etwas LoRA (Low-Rank Adaptation) ist, fügt es kleinere Matrizen hinzu. Es trainiert nicht das ganze Modell.
Goedgekeurd
- Gegenereerd door
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- Gegenereerd op
- 2026-09-21T00:11:29.079655+00:00
- Norm
- Eenvoudige taal ~B1 — niet de Duitse norm voor makkelijk lezen DIN SPEC 33429
- Gecontroleerd door
- zolo · 2026-09-21T00:30:10.463422+00:00
LoRA (Low-Rank Adaptation) ermöglicht eine effiziente Feinabstimmung großer KI-Modelle durch die Einfügung zusätzlicher niedrigrangiger Gewichtsmatrizen, ohne das gesamte Modell erneut zu trainieren. Dieser Ansatz reduziert den parametrischen Overhead und erhöht die Flexibilität der Modelle bei minimalen Ressourcenaufwendungen.
Goedgekeurd
- Gegenereerd door
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- Gegenereerd op
- 2026-09-21T00:11:29.079655+00:00
- Norm
- Eenvoudige taal ~B1 — niet de Duitse norm voor makkelijk lezen DIN SPEC 33429
- Gecontroleerd door
- zolo · 2026-09-21T00:30:10.463422+00:00
Citaat
"LoRA (Low-Rank Adaptatie)." Open Cognition Commons Foundation. https://opencognitioncommons.org/nl/glossary/lora. CC-BY 4.0. Machineleesbare metadata
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "LoRA (Low-Rank Adaptatie)",
"description": "LoRA (Low-Rank Adaptation) ist eine Parameter-effiziente Feinabstimmungs- methode für große KI-Modelle, die zusätzliche niedrigrangige Gewichtsmatrizen einfügt statt das gesamte Modell zu trainieren.\n",
"url": "https://opencognitioncommons.org/nl/glossary/lora",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"LoRA",
"Low-Rank Adaptation",
"PEFT"
]
}