Lokale KI-Modelle, gemessen auf einer Karte.
Jedes Modell durchläuft dieselbe Test-Suite auf einer RTX PRO 6000 mit 96 GB: Tempo, Coding, Agentik, Rätsel und Deutsch. Alle Ergebnisse sind frei zugänglich, ohne Anmeldung.
| Qwen3.8 Flash-NextQwen (Alibaba) · 125B Parameter, 6B aktiv | UD-Q4_K_XL GGUF | 123,6 | 109,3 | 4/5 | 7,0/7 | 5/5 | 2/2 | 01.10.2026 |
|---|
Kein Modell passt zu deiner Suche.
Tempo: Ausgabe-Token pro Sekunde bei 1k Kontext und einer Anfrage. Kontext: dasselbe mit 32k Token im Prompt. Ein Klick auf den Spaltenkopf sortiert.
So testen wir
Gleiche Prompts, gleiche Regeln, gleicher Rechner. Jedes Modell bekommt genau einen Versuch je Aufgabe.
Tempo
Zeit bis zum ersten Token, Prefill und Ausgabe in Token pro Sekunde bei 1k, 8k und 32k Kontext, mit einer und mit vier gleichzeitigen Anfragen.
Coding
Fünf Aufgaben mit je einem Versuch: Spiel, Physik, 3D-Szene, SVG-Grafik und eine kleine Web-App. Das Ergebnis läuft offline im Browser und wird aufgezeichnet. Bestanden heißt: läuft und erfüllt die Aufgabe.
Agentik
Ein Kundenfall mit vier simulierten Werkzeugen: Kunde finden, Sendung prüfen, Gutschrift buchen, Mail schreiben. Sieben Prüfpunkte, drei Durchgänge.
Rätsel
Fünf Denkaufgaben mit eindeutiger Lösung, vom Buchstabenzählen bis zur Kombinatorik. Es zählt nur die richtige Endantwort.
Deutsch
Zwei Schreibaufgaben: eine Kunden-Mail mit festen Vorgaben und eine Erklärung für Kinder in genau fünf Sätzen. Geprüft werden Vorgaben und Sprache.
Einstellungen
Wir wählen die beste Quantisierung, die auf diesem Rechner sinnvoll läuft. Quantisierung, Laufzeit, Sampling und Kontext stehen auf der Seite jedes Modells.
Wer hier testet
Techat Lab ist ein Projekt von Luca Hansmann. Luca betreibt auch Techat, eine Plattform mit dem KI-Assistenten Techie, und diese Seite wirbt dafür. Die Messungen laufen unabhängig davon mit derselben Suite auf demselben Rechner.
Der Testrechner
- GPU
- NVIDIA RTX PRO 6000 Blackwell, 96 GB VRAM
- CPU
- Intel Core i9-14900K
- RAM
- 64 GB
- Laufzeit
- llama.cpp (llama-server)
KI-Hinweis KI
Die Messwerte erhebt die Test-Suite automatisch. Die Bewertung der Coding-Aufgaben, Fazits und Kurztexte entstehen mit Unterstützung von Techie, dem KI-Assistenten von Techat, aus Messwerten und Aufnahmen. Solche Texte tragen das Zeichen „KI“.
Diese Modelle in Techat nutzen
Techie, der KI-Assistent in Techat, läuft im Normalbetrieb auf Qwen3.8 Flash-Next aus diesem Lab. Er bedient Website, E-Mail, Termine und Kontakte direkt im Chat.