Fine-Tuning für KI-Modelle
Fine-Tuning trainiert ein KI-Modell mit Beispielen aus Ihrem Unternehmen weiter, damit es in Ihrem Ton, Ihren Formaten und Ihrer Fachsprache arbeitet. Wir sagen Ihnen vorher, ob sich das für Sie lohnt, und belegen den Unterschied mit Evaluierungen, also Messungen an Ihren eigenen Testfällen.
Was Fine-Tuning ist
Ein fertiges Sprachmodell kann vieles, aber wenig davon genau so, wie Ihr Unternehmen es braucht. Beim Fine-Tuning trainieren wir das Modell mit Beispielen aus Ihrer Arbeit weiter: jeweils eine Eingabe und das Ergebnis, das Sie dazu erwarten. Etwa eine Kundenanfrage und die Antwort, die Ihr bestes Teammitglied geschrieben hätte. Oder ein Prüfbericht und die Felder, die daraus in Ihr System gehören.
Danach schreibt und entscheidet das Modell so wie in diesen Beispielen, ohne dass jede Anfrage eine lange Anleitung braucht.
Wir prüfen mit Ihnen, ob Fine-Tuning Ihre Aufgabe besser löst als gute Anweisungen in der Anfrage oder RAG, das in Ihren Dokumenten nachschlägt. Lohnt es sich, bereiten wir die Beispiele auf, trainieren das Modell und belegen das Ergebnis an Ihren Testfällen.
Fine-Tuning oder RAG?
Die beiden Verfahren lösen verschiedene Aufgaben. RAG (Retrieval-Augmented Generation) schlägt im Moment der Frage in Ihren Dokumenten nach und gibt dem Modell die passenden Stellen zu lesen. Das Modell selbst bleibt dabei unverändert: RAG ist kein Training. Fine-Tuning dagegen verändert das Modell, also wie es formuliert, welches Format es einhält und wie es Fälle einordnet.
Daraus folgt eine einfache Regel. Für Wissen, das sich ändert, etwa Preise, Richtlinien oder Produktdaten, ist RAG der richtige Weg. Für Verhalten, das gleich bleiben soll, ist es Fine-Tuning. Oft gehört beides zusammen: RAG liefert die Fakten, das feinabgestimmte Modell bringt sie in Ihre Form. Die Unterschiede im Detail zeigt unser Ratgeber Was ist RAG?
Wann sich Fine-Tuning für Unternehmen lohnt
Fine-Tuning lohnt sich, wenn bessere Anweisungen und Beispiele in der Anfrage (Prompting) das Ergebnis nicht weiter verbessern. Typische Fälle:
- Tonalität: Texte an Ihre Kunden klingen nach Ihrem Unternehmen, nicht nach einem allgemeinen Assistenten.
- Feste Formate: Das Modell liefert jedes Mal dieselbe Struktur, die Ihre Systeme ohne Nacharbeit weiterverarbeiten.
- Fachsprache: Das Modell verwendet Begriffe und Abkürzungen Ihrer Branche richtig und ordnet Fälle so ein wie Ihre Fachleute, auch dort, wo ein allgemeines Modell danebenliegt.
- Tempo und Kosten: Ein kleines, feinabgestimmtes Modell erledigt eine eng umrissene Aufgabe, für die sonst ein großes nötig wäre. Es antwortet schneller, kostet je Anfrage weniger und läuft auf Wunsch auf Ihren eigenen Servern.
Wann Sie kein Fine-Tuning brauchen
Fine-Tuning ist kein Weg, einem Modell Ihr Firmenwissen beizubringen. Was es aus dem Training mitnimmt, kann es nicht mit einer Quelle belegen, und jede Änderung am Wissen hieße, neu zu trainieren. Sie brauchen kein Fine-Tuning, wenn
- das Modell vor allem Fakten aus Ihren Dokumenten kennen soll; dafür gibt es RAG,
- gute Anweisungen und einige Beispiele in der Anfrage das gewünschte Ergebnis schon liefern,
- es noch keine Beispiele gibt, die zeigen, wie ein gutes Ergebnis aussieht,
- jede Antwort ihre Quelle nennen muss.
Wenn Fine-Tuning nicht passt
Trifft das auf Ihren Fall zu, sagen wir es Ihnen, bevor ein Projekt beginnt.
Dann empfehlen wir den Weg, der Ihre Aufgabe löst: bessere Anweisungen und Beispiele in der Anfrage oder RAG, das die Antwort in Ihren Dokumenten nachschlägt und die Quelle nennt.
So läuft ein Fine-Tuning-Projekt
Am Anfang steht eine Messung, nicht das Training:
- Wir legen mit Ihnen fest, woran ein gutes Ergebnis zu erkennen ist, und stellen Testfälle mit erwarteten Antworten zusammen.
- Wir messen, wie weit ein Modell mit gutem Prompting kommt. Reicht das, endet das Projekt hier, und Sie sparen sich das Training.
- Reicht es nicht, bereiten wir Beispiele aus Ihren Daten auf und trainieren das Modell.
- Zum Schluss vergleichen wir das Modell vor und nach dem Training an denselben Testfällen. Sie sehen den Unterschied in Zahlen, bevor das Modell in Betrieb geht.
Ihre Daten, Ihr Auftrag
Ein Fine-Tuning mit Ihren Daten führen wir nur in Ihrem Auftrag und nur für Ihr Projekt durch; für etwas anderes verwenden wir Ihre Daten nicht.
Das trainierte Modell läuft dort, wo Ihre Daten verarbeitet werden dürfen: auf Ihrer eigenen Infrastruktur oder bei einem Anbieter mit Auftragsverarbeitungsvertrag und Datenstandort in der EU. Wie Modelle im eigenen Haus betrieben werden, zeigt unsere Seite zu lokaler KI.
Häufige Fragen
Weiß das Modell nach dem Fine-Tuning mehr über unser Unternehmen?
Nicht verlässlich. Fine-Tuning prägt, wie das Modell schreibt und entscheidet, aber es ist kein Speicher für Fakten. Soll der Assistent Ihre Dokumente kennen, verbinden wir ihn über RAG mit ihnen; dann nennt er auch die Quelle.
Wie viele Beispiele braucht ein Fine-Tuning?
Das hängt von der Aufgabe ab. Wichtiger als die Menge ist, dass jedes Beispiel genau so aussieht, wie das Ergebnis aussehen soll. Wie viele Ihre Aufgabe braucht, zeigt ein erster Trainingslauf, den wir an Ihren Testfällen messen.
Welche Modelle lassen sich feinabstimmen?
Open-Weight-Modelle, also frei verfügbare Modelle wie Llama, Mistral oder Qwen, die auch auf Ihren eigenen Servern laufen, und Modelle großer Anbieter, die Fine-Tuning über ihre Schnittstelle ermöglichen. Welches passt, hängt davon ab, wo Ihre Daten verarbeitet werden dürfen und wie schnell und günstig das Modell antworten soll.
Muss ein feinabgestimmtes Modell später neu trainiert werden?
Nur wenn sich das gewünschte Verhalten ändert, etwa durch ein neues Format, oder wenn Sie auf ein neueres Grundmodell wechseln. Neues Wissen braucht kein Training, es kommt über RAG dazu. Die Testfälle aus dem ersten Projekt zeigen bei jedem neuen Training, ob das Modell besser geworden ist.
Was kostet ein Fine-Tuning?
Den Preis bestimmen die Aufgabe, Zahl und Zustand Ihrer Beispiele und der Ort, an dem das Modell laufen soll. Weil wir zuerst messen, ob Prompting genügt, zahlen Sie für ein Training nur, wenn die Messung zeigt, dass Prompting nicht reicht. Eine erste Preisspanne nennt Ihnen der Projektassistent auf dieser Website, der Ihr Vorhaben in wenigen Minuten abfragt.