# Strata Flash IQ3 im Vergleich mit IQ2 und den bisherigen Modellen

Messung auf RTX 3090, Ryzen 5900X und 64 GiB RAM. Die drei Flash-Quantisierungen verwenden den kleinsten unterstützten Expertencache. Whisper und pyannote bleiben bei allen neuen Messungen als ursprüngliche CUDA-Objekte geladen.

Für IQ2_XS, IQ3_XXS und IQ3_S wurden jeweils 60 neue GP60-Antworten erzeugt. Die 27B-Antworten desselben Korpus wurden gemeinsam mit den neuen Antworten unter zufälligen A–D-Labels erneut an den Quellen bewertet. Die 27B-Zeitmessung und die 9B-/4B-Zeilen stammen aus der vorherigen Messreihe auf demselben Rechner mit geladenen Audiomodellen. Diese Herkunft ist auch in jeder CSV-Zeile angegeben.

## Einordnung

IQ3_XXS ist in dieser Messreihe der plausiblere Kompromiss für einen kleinen GPU-Cache: 625 statt 585 vollständig wiedergegebene Details gegenüber IQ2_XS bei 17 % längerer Antwortdauer. IQ3_S erreicht 626 Punkte, benötigt gegenüber IQ3_XXS weitere 15 % Antwortzeit und rund 6,9 GiB mehr Prozess-RAM. Seine 16 unbelegten Zusätze gegenüber sieben bei IQ3_XXS sprechen gegen eine eindeutige Qualitätsrangfolge allein nach Quantisierungsgröße.

27B hat in der gemeinsamen neuen Quellenprüfung 620 vollständige und nur ein falsches Detailkriterium, darunter keinen Fehler an einem Prioritätspunkt. Bei IQ3_XXS/IQ3_S sind es acht/sechs falsche Kriterien, davon fünf/vier Prioritätspunkte. 27B ergänzt zugleich 20 unbelegte Aussagen. Die Modelle zeigen unterschiedliche Stärken; eine pauschale Gleichwertigkeit der Faktentreue folgt aus ähnlichen Gesamtpunkten nicht.

Die [konkreten Qualitätsunterschiede](Detailvergleich.md) enthalten Korrekturfehler, Ausgabeprobleme und Beispiele zusätzlicher Behauptungen.

## Geschwindigkeit und Tokenzahlen

Mediane je 60 Antworten. P95 bezeichnet das 95. Perzentil der vollständigen Antwortdauer. Die Zeit bis zum ersten Token enthält die Promptverarbeitung; die Generierungsrate misst den anschließenden Decoder. Unterschiedliche Antwortlängen sind separat ausgewiesen.

| Modell | Eingabetoken | Ausgabetoken | Prompt Token/s | Generierung Token/s | Erstes Token s | Antwort s | P95 s |
|---|---:|---:|---:|---:|---:|---:|---:|
| Flash IQ2_XS minimal | 875,5 | 279,0 | 405,5 | 69,3 | 2,144 | 6,117 | 13,421 |
| Flash IQ3_XXS minimal | 875,5 | 303,5 | 378,0 | 61,8 | 2,335 | 7,161 | 15,547 |
| Flash IQ3_S minimal | 875,5 | 316,0 | 335,6 | 55,6 | 2,621 | 8,243 | 18,743 |
| Qwen3.8 27B UD-Q4_K_M | 875,5 | 310,5 | 1.137,1 | 41,9 | 1,044 | 8,423 | 14,910 |
| Qwen3.5 9B Q6_K | 875,5 | 261,0 | 3.131,0 | 94,4 | 0,382 | 3,146 | 5,304 |
| Qwen3.5 9B Q4_K_M | 875,5 | 249,5 | 3.342,7 | 114,2 | 0,364 | 2,546 | 4,187 |
| Qwen3.5 4B Q4_K_M | 875,5 | 208,0 | 4.830,0 | 171,3 | 0,286 | 1,505 | 2,504 |

179/180 neue Hauptantworten erfüllen das ursprüngliche JSON-Schema; 0 erreichen die Tokenbegrenzung. Promptcache und Thinking sind ausgeschaltet. Die Eingabetoken sind je Modell vollständig dokumentiert; die Ausgabetoken lassen erkennen, wie viel der Antwortzeit auf unterschiedliche Textlängen entfällt.

| Modell | Eingabetoken gesamt | Ausgabetoken gesamt | Kürzeste Antwort s | Längste Antwort s |
|---|---:|---:|---:|---:|
| Flash IQ2_XS minimal | 58.840 | 18.176 | 4,892 | 18,274 |
| Flash IQ3_XXS minimal | 58.840 | 19.800 | 5,754 | 17,337 |
| Flash IQ3_S minimal | 58.840 | 20.319 | 6,415 | 22,705 |
| Qwen3.8 27B UD-Q4_K_M | 58.840 | 19.891 | 7,009 | 18,700 |
| Qwen3.5 9B Q6_K | 58.840 | 16.469 | 2,399 | 6,842 |
| Qwen3.5 9B Q4_K_M | 58.840 | 15.737 | 1,884 | 5,281 |
| Qwen3.5 4B Q4_K_M | 58.840 | 13.295 | 1,019 | 3,344 |

## Speicherbedarf mit geladenen Audiomodellen

GPU-Werte sind beobachtete Spitzen. RSS bezeichnet den residenten Hauptspeicher des Strata-Prozesses. Der belegte Host-RAM schließt weitere Prozesse ein und wird ohne reclaimbaren Dateicache berechnet. Die Modelle verwenden weiterhin dieselbe große Architektur; ein kleiner Expertencache reduziert vor allem den GPU-Anteil.

| Flash Quantisierung | Expertencache MiB und Slots | Strata VRAM GiB | Gesamt Text GiB | Gesamt aktive Audiokette GiB | Strata RSS GiB | Host-RAM Text GiB |
|---|---:|---:|---:|---:|---:|---:|
| IQ2_XS | 512 / 366 | 6,04 | 13,03 | 14,27 | 35,18 | 42,36 |
| IQ3_XXS | 576 / 341 | 6,65 | 13,66 | 14,89 | 42,17 | 49,40 |
| IQ3_S | 640 / 323 | 7,09 | 14,11 | 15,34 | 49,08 | 54,15 |

Historische Referenzwerte aus GP60, ebenfalls mit geladenen Audiomodellen:

| Modell | Gesamt GPU Text GiB | Host RAM GiB |
|---|---:|---:|
| Qwen3.8 27B UD-Q4_K_M | 23,04 | 16,72 |
| Qwen3.5 9B Q6_K | 14,35 | 12,36 |
| Qwen3.5 9B Q4_K_M | 12,93 | 12,24 |
| Qwen3.5 4B Q4_K_M | 10,25 | 12,06 |

Für ein 16-GiB-System entscheidet die gesamte Belegung einschließlich aktiver Audiokette. Beobachtete Reserve bis 16 GiB: IQ2_XS 1,73 GiB, IQ3_XXS 1,11 GiB und IQ3_S 0,66 GiB. Gemessen wurde auf der 24-GiB-3090; die Rechenleistung und Speicherverwaltung einer konkreten 16-GiB-Karte können abweichen. Die Audioaussagen gelten für die getesteten sequenziellen 48-Sekunden-Aufnahmen.

Die Host-RAM-Spitzen während der aktiven Audioproben lagen bei 42,44/49,49/54,19 GiB. Die Speicherwerte stammen aus der jeweiligen Messphase; Einzelstarts und aktive Audioketten werden separat vom Textbetrieb erfasst.

Die Startparameter setzen mindestens 8960 MiB GPU-Reserve; die anschließend gemessenen Hauptfälle nutzen immer den bestätigten Mindestcache. Bei den einmaligen Starts wurden insgesamt 15,29/15,48/15,49 GiB GPU-Belegung beobachtet (IQ2_XS/IQ3_XXS/IQ3_S). Diese Lastspitzen und die verbleibende Reserve sind zusätzlich zu den Textwerten zu berücksichtigen.

Der Strata-Prozess hatte in allen Hauptfällen 0 MiB Swap. Auf dem Host waren bereits vor dem Modellstart 5,35 GiB Swap belegt. Während IQ2_XS/IQ3_XXS wurden bis 5,67/5,66 GiB gemessen; unter IQ3_S bis 8,00 GiB. Der zusätzliche Platzbedarf wurde damit teilweise durch Auslagerung anderer Prozesse aufgefangen. Geladene CUDA-Audioobjekte und die kurzen Audioproben funktionierten weiterhin. Der reine residente Host-RAM von 54,15 GiB unter IQ3_S bildet dessen gesamten Systemspeicherbedarf deshalb nicht allein ab.

Während der 60 Hauptantworten wurden dem jeweiligen Strata-Prozess insgesamt 1,28/1,39/1,43 GiB physische Lesezugriffe zugerechnet. Der Dateicache wurde nicht geleert; die Messwerte enthalten dennoch Datenträgerzugriffe. NVMe und Hauptspeicher gehören zu diesem Ergebnis.

## Qualität der Zusammenfassungen

Jedes Modell wird an denselben 720 Detailkriterien verglichen. V bedeutet vollständig richtig, T teilweise richtig ohne falschen Bestandteil, A ausgelassen und F sachlich falsch. Vorab markierte Prioritätspunkte und zusätzliche unbelegte Aussagen bleiben separat. Die Prozentwerte messen die Abdeckung dieses gezielt schwierigen Korpus, keine allgemeine medizinische Genauigkeit.

| Modell | V vollständig | Anteil V | T teilweise | A fehlt | F falsch | Priorität V | Priorität F | Unbelegte Zusätze |
|---|---:|---:|---:|---:|---:|---:|---:|---:|
| Flash IQ2_XS minimal | 585/720 | 81,3 % | 114 | 11 | 10 | 201/240 | 5 | 6 |
| Flash IQ3_XXS minimal | 625/720 | 86,8 % | 82 | 5 | 8 | 203/240 | 5 | 7 |
| Flash IQ3_S minimal | 626/720 | 86,9 % | 80 | 8 | 6 | 213/240 | 4 | 16 |
| Qwen3.8 27B UD-Q4_K_M | 620/720 | 86,1 % | 85 | 14 | 1 | 203/240 | 0 | 20 |
| Qwen3.5 9B Q6_K | 541/720 | 75,1 % | 104 | 53 | 22 | 172/240 | 14 | 6 |
| Qwen3.5 9B Q4_K_M | 528/720 | 73,3 % | 116 | 58 | 18 | 166/240 | 13 | 8 |
| Qwen3.5 4B Q4_K_M | 416/720 | 57,8 % | 158 | 128 | 18 | 122/240 | 12 | 15 |

Priorität V und F beziehen sich auf 240 vorab markierte Punkte. Eine einzelne falsche Dosierung kann mehrere zusammengesetzte Kriterien verletzen; F zählt Kriterien und nicht zwingend verschiedene Fehlbehauptungen. Die Zahl betroffener Fälle steht zusätzlich in der CSV.

Die neue maskierte Quellenprüfung umfasst die drei Flash-Quantisierungen und die ursprünglichen 27B-Antworten. Die 9B-/4B-Bewertungen wurden aus der festgeschriebenen vorherigen Prüfung übernommen. Derselbe KI-Agent führt Korpusarbeit und Bewertung durch; die Maskierung ersetzt keine unabhängige klinische Validierung. Die 60 Varianten bilden 30 verwandte Gesprächspaare. Eine kleine Punktdifferenz belegt daher keine allgemeine Überlegenheit.

Der frühere 27B-Wert von 638 vollständigen Punkten wird hier zu 620 neu beurteilt, obwohl dieselben Antworten verwendet werden. Das zeigt die Streuung der Einzelbeurteilung. Die 9B-/4B-Zeilen behalten ihre ursprünglichen Urteile und dienen zur groben Einordnung. IQ2_XS hatte im vorherigen Minimalcachelauf 602 vollständige Punkte; jetzt wurden neue Antworten erzeugt und gemeinsam neu beurteilt. Unterschiedliche Läufe und Bewertungsdurchgänge ergeben keine feste, auf einzelne Punkte genaue Modellkennzahl.

## Direkter Detailvergleich der größeren Quantisierungen

| Vergleich | Erstes Modell vollständiger | Gleich viele V | Zweites Modell vollständiger | Gleiche Einzelurteile |
|---|---:|---:|---:|---:|
| Flash IQ3_XXS minimal gegenüber Flash IQ2_XS minimal | 30/60 | 23/60 | 7/60 | 612/720 |
| Flash IQ3_S minimal gegenüber Flash IQ2_XS minimal | 32/60 | 16/60 | 12/60 | 600/720 |
| Flash IQ3_S minimal gegenüber Flash IQ3_XXS minimal | 17/60 | 25/60 | 18/60 | 621/720 |
| Flash IQ3_XXS minimal gegenüber Qwen3.8 27B UD-Q4_K_M | 20/60 | 24/60 | 16/60 | 606/720 |
| Flash IQ3_S minimal gegenüber Qwen3.8 27B UD-Q4_K_M | 23/60 | 17/60 | 20/60 | 591/720 |

Die Gesprächspaare ändern gezielt vier Fakten und lassen acht andere unverändert. Beide Varianten eines Paares müssen den jeweiligen Punkt vollständig richtig wiedergeben, damit er in der folgenden Tabelle zählt.

| Modell | Geänderte Fakten beide richtig | Unveränderte Fakten beide richtig |
|---|---:|---:|
| Flash IQ2_XS minimal | 93/120 | 173/240 |
| Flash IQ3_XXS minimal | 97/120 | 190/240 |
| Flash IQ3_S minimal | 99/120 | 188/240 |
| Qwen3.8 27B UD-Q4_K_M | 101/120 | 188/240 |

## Wiederholungen und Audioproben

| Quantisierung | Antwortmedian Wiederholungen s | Bytegleiche Wiederholungen | ASR Median s | Diarisierung Median s |
|---|---:|---:|---:|---:|
| IQ2_XS | 5,839 | 0/12 | 1,247 | 0,500 |
| IQ3_XXS | 7,426 | 0/12 | 1,250 | 0,506 |
| IQ3_S | 8,140 | 0/12 | 1,264 | 0,515 |

Die zwölf Wiederholungen je Quantisierung werden bei unverändert kleinem Cache ausgeführt. Gleicher Seed garantiert in diesem Backend keine bytegleichen Antworten. Die vollständigen Einzelausgaben und Quellen bleiben erhalten.

IQ2_XS erzeugte in G60_29B eine Wiederholungsschleife im Prozedere und unvollständiges JSON. Das Backend meldete nach 879 Ausgabetoken finish_reason=stop; die Grenze von 2400 Token wurde nicht erreicht. Alle SSE-Fragmente bis zum regulären Abschluss bleiben gespeichert. Die Antwort wurde bei Geschwindigkeit und Detailbewertung mitgezählt; die Formatverletzung wird separat ausgewiesen. IQ3_XXS und IQ3_S lieferten jeweils 60/60 schemakonforme Hauptantworten.

Die einmaligen Prozessstarts bis Bereitschaft dauerten 26,39/31,63/43,37 Sekunden. Sie erfolgten nach der Paketakquisition und ersetzen keinen wiederholten Warmcache-Ladetest. Der frühere gezielte IQ2-Warmcache-/Parktest bleibt als eigene Messreihe gültig.

## Aufbau und Wiederherstellung

ISTA-DASLab Qwen3.8-Flash-Next GSQ-RCO, Strata 0.2.6, Control 0.1.51 und Engine 0.1.50. Kontext 32768, ein Slot, KV int8, MTP eingeschaltet, Temperatur 0,1, Seed 42, maximal 2400 Ausgabetoken. Die offizielle Paketvorbereitung und die festgelegten SHA-256-Prüfsummen werden verwendet; die gemeinsame PLE-Datei wird identisch wiederverwendet. Jede Quantisierung erhält drei Aufwärmantworten und eine technische Vorprüfung mit der längsten Quelle vor den 60 Hauptfällen.

Originalpakete: [ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF](https://huggingface.co/ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF), festgelegte Revision ed59f92082b1e93c0e96d60a8b11aab089b52f09. Die neuen Haupt-GGUFs haben 47,04 GB (IQ3_XXS) und 54,82 GB (IQ3_S). Die gemeinsame PLE-Datei von 28,80 GB wird mit identischer Prüfsumme per Hardlink wiederverwendet. Diese Dateigrößen sind keine Laufzeit-RAM-/VRAM-Messwerte.

Telemetrie: 13506 Messpunkte bei median 150,0 ms Abstand. 474 Workerzustände wurden geprüft. Die ursprünglichen ASR-/pyannote-Identitäten bleiben dabei geladen auf CUDA. Sehr kurze Spitzen können zwischen den Messpunkten liegen.

Die ursprünglichen 15 Dienstzustände, 57 Produktionsdateien und sechs bestehenden Strata-Konfigurationsdateien sind wiederhergestellt beziehungsweise unverändert. Der installierte Client wurde mit echter Textextraktion und der synthetischen WAV-Kette einschließlich 27B und Rückkehr zum 9B-Q6-Standard geprüft. Alle eigenen Testserver und der Sicherungstimer sind beendet. Die neu installierten Modellpakete liegen im isolierten Strata-Benchmarkverzeichnis.

Qwen3.6-35B-A3B wurde zuvor mit einem anderen GP30-Korpus geprüft. Sein Ergebnis wird deshalb nicht mit den GP60-Punkten vermischt; die [ältere Auswertung](../strata-2026-10-26-08/Auswertung.md) bleibt separat verfügbar.

## Dateien

- [Alle Quellen und Antworten mit Kriterienurteilen](Einzelfaelle.md)
- [Detailvergleich und konkrete Fehlerbeispiele](Detailvergleich.md)
- [Gesamter Modellvergleich als CSV](summary/comparison.csv)
- [Alle 216 neuen Einzelmessungen inklusive Tokenzahlen](summary/measurements.csv)
- [Alle neuen 2880 Kriterienurteile](summary/fact_reviews.csv)
- [Zusätzliche unbelegte Aussagen der neuen Quellenprüfung](summary/unsupported_claims.csv)
- [Direkte Fallvergleiche](summary/pairwise.csv)
- [Paarweise Stabilität](summary/pair_consistency.csv)
- [Zusammenfassung als JSON](summary/results.json)
- [Festgeschriebene Quellenurteile](review_commitment.json)
- [Konsistenzprüfung vor Auflösung der Modelllabels](review_adjudication.json)
- [Dokumentierte Schweregradkorrektur nach Protokollkontrolle](severity_correction.json)
- [Geprüfte Modellgewichte und SHA-256](acquired-files.json)
- [Abschließender Zustandscheck](final-state-check.json)
- [Prüfung der gespeicherten Nachweise und Berichtsstruktur](validation.json)