Welches lokale KI-Modell schreibt das beste Deutsch?

TL;DR — 14 lokale Modelle, dieselbe Aufgabe, 224 Läufe, blind bewertet. Das schnellste und zuverlässigste Modell schreibt den schlechtesten Text. Und die Herkunft eines Modells verrät mehr über sein Deutsch als seine Größe.

Alle Zahlen hier stammen aus eigenen Messläufen, nicht aus Herstellerangaben. Der Testaufbau steht unten und lässt sich auf jede Textaufgabe übertragen.

Fremde Benchmarks nützen dir nichts

Modell-Ranglisten messen Mathematik, Code und Multiple-Choice-Wissen. Deine Aufgabe steht da fast nie drin.

Unsere sah so aus: Aus dem Abschnitt „Item 1. Business" eines US-Geschäftsberichts — bis zu 30.000 Zeichen englisches Juristendeutsch — soll eine deutsche Firmenbeschreibung entstehen. 120 bis 200 Wörter, nur das heutige Geschäft, kein Marketing, Ausgabe als JSON.

Das sieht nach Übersetzung aus. Ist es nicht. Vier Schritte stecken darin:

• Verstehen — 30.000 Zeichen Fachtext erfassen.
• Auswählen — was ist wesentlich, was Beiwerk?
• Trennen — viele Berichte nennen im selben Abschnitt eine frühere Identität. Nach Umbenennung oder Reverse-Merger steht die alte Geschichte direkt neben dem heutigen Geschäft. Wer das vermischt, beschreibt die falsche Firma.
• Formulieren — daraus deutschen Fließtext schreiben, nicht Satzbausteine übersetzen.

Deshalb hilft kein fremder Benchmark. Du musst deine eigene Aufgabe messen.

Der Aufbau

16 echte Geschäftsberichte, acht davon mit einer früheren Identität im Text. Jedes Modell bekam denselben Prompt und dieselben Texte. Macht 224 Läufe.

Blind bewertet. Ein stärkeres Modell liest den englischen Originaltext und danach alle deutschen Ergebnisse — ohne zu wissen, welches Modell welchen geschrieben hat. Die Reihenfolge rotiert pro Fall, sonst schleicht sich eine Positionsvorliebe ein.

Drei Achsen, getrennt gemessen. Das ist der Kern:

Wer die drei mittelt, bekommt ein hübsches Ranking und die falsche Entscheidung.

Falle 1: das beste Modell auf dem Papier

Nach Zuverlässigkeit und Tempo gewinnt qwen2.5:7b-instruct klar: null Ausfälle, 7 Sekunden pro Antwort. Fall erledigt, könnte man meinen.

Nur schreibt es über einen Energieversorger aus dem US-Bundesstaat Indiana Folgendes:

„… ist die Nachfolge einer indischen Gesellschaft …"

Im Original stand Indiana corporation. Das Modell hat den Bundesstaat für ein Land gehalten.

Dazu: 55 Wörter statt der geforderten 120 bis 200. Und in 13 von 16 Texten Sprachfehler. Inhaltlich landet es bei 1,81 von 3 — drittletzter Platz.

Auf zwei von drei Achsen ist es Sieger. Auf der dritten fällt es durch. Wer nur Ausfallquote und Tempo misst, nimmt genau dieses Modell — und wundert sich hinterher über die Texte.

Falle 2: „Denken" frisst die Antwort

Modelle wie qwen3 denken vor der Antwort sichtbar nach. Klingt nach mehr Qualität, ist aber eine Falle.

Ollama zählt diese Denk-Token gegen das Ausgabe-Budget (num_predict). Bei qwen3:4b war das Budget aufgebraucht, bevor das erste Zeichen der eigentlichen Antwort kam. Rückgabe: finish_reason=length, Inhalt leer. 6 von 16 Läufen komplett verloren — 38 Prozent Totalausfall.

Auf CPU-Servern kommt ein zweites Problem dazu. Denk-Token werden verworfen, kosten aber Rechenzeit. Bei etwa 1,6 Token pro Sekunde entscheidet ihre Zahl über Timeout oder Erfolg.

Die Lösung ist eine Zeile:

think = 0

Die Ausfälle verschwanden komplett — von 6 auf 0. Die Qualität blieb gleich: über alle 16 Fälle gepaart verglichen dreimal besser, zweimal schlechter, elfmal identisch. Das ist Rauschen.

Für Extraktion und Formulierung bringt Reasoning nichts. Entweder gibst du dem Modell ein deutlich größeres Ausgabe-Budget — oder du schaltest das Denken ab.

Der eigentliche Befund: Herkunft schlägt Größe

Diese Fehler stammen alle aus echten Läufen:

Das sind keine Wissenslücken. Den Inhalt hat das Modell meist richtig verstanden. Es sind Wortbildungsfehler. Deutsche Komposita beherrscht nur, wer genug Deutsch gesehen hat.

Genau da trennt sich das Feld: gemma3 (Google, ausdrücklich multilingual) und mistral (Frankreich) sind die einzigen Modelle im Test, die corrections korrekt mit „Strafvollzugsanstalten" übersetzen. Alle anderen erfinden „Korrekturklienten", „Korrektionseinrichtungen" oder „Korrektionsanlagen".

qwen2.5:14b braucht mehr Speicher und viermal so lange wie gemma3:12b und liefert trotzdem schlechteren Inhalt und schlechteres Deutsch. Größe allein kauft nichts.

Das Ergebnis

Hinweis: Stand Juli 2026, gemessen auf einer 12-GB-GPU. Laufzeiten sind hardwareabhängig und nicht auf CPU-Server übertragbar — dort zählt die Zahl der Ausgabe-Token. Die Qualitätswerte gelten unabhängig von der Hardware.

Sieger: mistral-small3.2:24b. Null Ausfälle, das sauberste Deutsch (3 Fehler in 16 Texten), kein einziger Stilverstoß. Und auf den schweren Fällen mit früherer Firmenidentität das beste Ergebnis im ganzen Feld.

Geheimtipp: gemma3:12b. Bestes Deutsch von allen (2 Fehler in 16 Texten), 13 Sekunden, passt bequem in eine 12-GB-Karte. Der Preis ist weniger Substanz — es lässt Segmente und Zahlen weg. Wenn der Text kurz und sprachlich sauber sein soll, ist es die effizienteste Wahl.

Ein Befund hat uns selbst überrascht: Kein einziges Modell hat eine frühere Firmenidentität mit dem heutigen Geschäft verwechselt. Null Verwechslungen in 224 Läufen. Die Sorge, die uns ursprünglich zum großen Modell greifen ließ, war unbegründet — ein sauber formulierter Prompt hatte das Problem längst gelöst.

Wie das in echt aussieht

Wir setzen den Sieger produktiv ein: Auf inside-filings.com stehen deutsche Firmenbeschreibungen zu US-Aktien, erzeugt aus den Original-Geschäftsberichten.

So sah der alte Bestand aus — maschinell übersetzt aus dem englischen Profiltext:

„LyondellBasell Industries N.V. tätig als Chemieunternehmen in den Vereinigten Staaten … Das Unternehmen tätig in sechs Segmenten: Olefine und Polyolefine Amerika; … Fortgeschrittene Polymerlösungen; Raffination …"

Zweimal fehlt das Verb. Der Eigenname Advanced Polymer Solutions ist halb übersetzt.

Und so schreibt mistral-small3.2:24b denselben Aufgabentyp — nachzulesen bei Caterpillar:

„Caterpillar Inc. (CAT) ist ein US-amerikanisches Unternehmen mit Hauptsitz in Irving, Texas, das weltweit führend in der Herstellung von Baumaschinen und Bergbauausrüstung ist. … Über die Tochtergesellschaft Cat Financial werden Finanzdienstleistungen für den Kauf und Leasing von Caterpillar-Produkten angeboten. Das Unternehmen unterhält eines der größten unabhängigen globalen Händlernetzwerke …"

Segmente, Tochtergesellschaft, Händlernetz — und ein Satzbau, über den niemand stolpert.

So testest du deine eigene Aufgabe

1. Echte Fälle sammeln. 15 bis 20 aus dem Produktivbetrieb, darunter bewusst mehrere schwierige. Keine erfundenen Beispiele — die schwierigen Fälle ziehen die Modelle auseinander.
2. Denselben Prompt fahren. Identische Eingaben für alle. Sonst vergleichst du Prompts, nicht Modelle.
3. Blind bewerten lassen. Ein stärkeres Modell prüft gegen die Quelle, ohne die Modellnamen zu kennen. Reihenfolge pro Fall rotieren.
4. Achsen getrennt halten. Zuverlässigkeit, Substanz und Sprache einzeln. Ein Mittelwert verdeckt genau den Fehler, der dich später einholt.
5. Auf der Zielhardware nachrechnen. Laufzeiten deiner Testmaschine sind nicht übertragbar. Auf CPU rechne mit Ausgabe-Token, nicht mit Sekunden.

Noch ein Punkt zur Bewertung: Vergleiche nur Zahlen aus einem einzigen Bewertungslauf. Wir haben dieselben Texte zweimal bewerten lassen — einmal kamen 6 Sprachfehler heraus, einmal 9. Der Maßstab schwankt zwischen Läufen, die Rangfolge innerhalb eines Laufs nicht.

Häufige Fragen

Welches lokale Modell schreibt das beste Deutsch?

In diesem Test gemma3:12b — nur 2 von 16 Texten wurden sprachlich beanstandet. Wenn der Text zusätzlich Substanz braucht (Segmente, Zahlen, Details), ist mistral-small3.2:24b die bessere Wahl: 3 Sprachfehler bei deutlich mehr Inhalt.

Warum schreiben chinesische Modelle schlechteres Deutsch?

Deutsche Komposita sind eine Fähigkeit, die ein Modell nur erwirbt, wenn es genug Deutsch im Training gesehen hat. Modelle wie qwen verstehen den Inhalt meist korrekt und scheitern an der Wortbildung. Daraus entstehen Nicht-Wörter wie „Kryptominen" oder „Korrekturklienten". Europäische Modelle wie Gemma und Mistral haben hier einen strukturellen Vorteil.

Was bedeutet think = 0 bei Ollama?

Es schaltet den sichtbaren Gedankengang von Reasoning-Modellen ab. Wichtig ist das, weil Ollama die Denk-Token gegen das Ausgabe-Budget (num_predict) zählt. Ohne die Einstellung kann das Budget aufgebraucht sein, bevor die eigentliche Antwort beginnt — bei qwen3:4b gingen so 6 von 16 Antworten komplett verloren.

Ist ein größeres Modell automatisch besser?

Nein. qwen2.5:14b braucht mehr Speicher und viermal so lange wie gemma3:12b und liefert trotzdem schlechteren Inhalt und schlechteres Deutsch. Für die Sprachqualität war die Modellherkunft aussagekräftiger als die Parameterzahl.

Wie viel Grafikspeicher brauche ich?

Modelle bis etwa 12 GB laufen komplett auf einer 12-GB-Karte. mistral-small3.2:24b braucht rund 15 GB und lagert einen Teil auf die CPU aus — das kostet Tempo, funktioniert aber. gemma3:12b ist mit 8 GB der beste Kompromiss aus Qualität, Tempo und Hardwarebedarf.

Läuft das auch auf einem Server ohne Grafikkarte?

Ja, aber die Laufzeiten ändern sich drastisch. Auf CPU zählt vor allem die Zahl der erzeugten Token: Bei rund 1,6 Token pro Sekunde entscheidet die Ausgabelänge über Erfolg oder Timeout. Schalte Reasoning ab und begrenze die Ausgabe, sonst läuft jeder zweite Aufruf in die Zeitüberschreitung.

Weiterlesen

• Ollama und offene KI-Modelle: Welches Modell für welchen Zweck? — Grundlagen: welches Modell für welchen Zweck, was die „B"-Zahl bedeutet
• Lokale KI im Unternehmen: Volle Power, Daten bleiben im Haus — Datenschutz, Hardware und Betrieb im eigenen Haus
• Programmieren mit lokaler KI: Dein Code bleibt im Haus — Seminar: lokale KI selbst einbinden
• Datenbankanalysen mit KI – SQL-Seminar mit AI — Seminar: KI auf den eigenen Daten

Jetzt loslegen

Der Aufbau ist keine Raketenwissenschaft: 16 echte Fälle, ein Prompt, ein Nachmittag Arbeit. Was er dir spart, ist die Entscheidung nach Bauchgefühl — und ein Modell, das schnell und zuverlässig den falschen Text schreibt.