# GP60-Nachtest: Qwen3.6-35B und IQ3_S mit maximalem 24-GiB-Cache

Messung vom 28. Oktober 2026 auf der RTX 3090 mit Ryzen 5900X und 64 GiB installiertem RAM. Der Nutzer hat Qwen3.6 ausdrücklich bestätigt; ein neues Qwen3.5-35B wurde nicht heruntergeladen.

Qwen3.6-35B-A3B UD-Q4_K_XL erreicht im neuen GP60-Durchgang 526/720 vollständige Kriterien, 16 falsche Kriterien und 9 Fehler in Prioritätspunkten. Flash IQ3_S erreicht mit dem maximal passenden Cache von **9472 MiB/4857 Slots** 612/720 vollständige Kriterien und 6 Prioritätsfehler. Die medianen Antwortzeiten betragen **3,336 s** beziehungsweise **4,106 s**. Whisper und pyannote bleiben in beiden Reihen als die ursprünglichen CUDA-Objekte geladen.

## Neue Messungen inklusive Token

Je 60 neue Hauptantworten, gleicher GP60-Korpus und unveränderter Dokumentationsprompt. Zwei aufeinanderfolgende Modellreihen; die zwölf Wiederholungen pro Modell sind separat ausgewiesen. Erfolgreiche HTTP-Antworten bleiben auch bei Formatfehlern erhalten.

| Messgröße | Qwen3.6-35B Q4 | IQ3_S maximal 24 GiB |
|---|---:|---:|
| Eingabetoken, Median | 875,5 | 875,5 |
| Ausgabetoken, Median | 264,5 | 296,0 |
| Eingabetoken, Summe 60 Antworten | 58.840 | 58.840 |
| Ausgabetoken, Summe 60 Antworten | 16.523 | 19.487 |
| Zeit bis erstes Token, s | 0,808 | 1,065 |
| Vollständige Antwort, s | 3,336 | 4,106 |
| Promptverarbeitung, ms | 804,8 | 1.043,8 |
| Prompttoken/s laut Backend | 1.084,70 | 828,55 |
| Generierung, ms | 2.528,9 | 3.072,8 |
| Generierung, Token/s laut Backend | 105,60 | 97,85 |
| Generierung, Token/s HTTP | 105,26 | 98,07 |
| Host-CPU beschäftigt, % aller 24 logischen Kerne | 39,3 | 49,6 |

Antwortzeitspanne Qwen3.6 2,509–7,107 s, IQ3_S 3,303–9,312 s. Zusammenhängender Wiederholungsblock mit zwölf Fällen: median 3,438/4,161 s. Antwortlänge und Tokenraten sind bei der Bewertung der Gesamtzeit gemeinsam zu berücksichtigen.

## IQ3_S gegenüber der früheren Minimalcachemessung

| Messgröße | Früher 640 MiB Minimalcache | Neu maximal 24 GiB |
|---|---:|---:|
| Gesamte Antwort, Median s | 8,243 | 4,106 |
| Zeit bis erstes Token, Median s | 2,621 | 1,065 |
| Generierung, Token/s | 55,55 | 97,85 |
| Ausgabetoken, Median | 316,0 | 296,0 |
| Ausgabetoken, Summe | 20319 | 19487 |
| Vollständige Kriterien | 626 | 612 |
| Falsche Kriterien | 6 | 9 |
| Prioritätsfehler | 4 | 6 |
| Unbelegte Zusätze | 16 | 14 |

Der Minimalcache ist die frühere IQ3_S-Messreihe mit demselben Korpus und derselben Hardware. Er wurde in diesem Auftrag nicht erneut gemessen. Die Ergebnisse stammen aus getrennten Durchgängen und teilweise anderer Speicherlage. Insbesondere lassen sich kleine Qualitätsunterschiede nicht sicher durch die Cachegröße erklären.

Der neue Median ist 50,2 % kürzer; die Generierungsrate liegt 76,1 % höher. Die Ausgabe ist im Median 6,3 % kürzer. Neben dem Expertencache änderte die Engine automatisch den Prefill-Chunk von 256 auf 8192 Token. Der Zeitgewinn ist deshalb kein isolierter Cacheeffekt.

## Qualität der beiden neuen Modellreihen

| Quellenurteil | Qwen3.6-35B Q4 | IQ3_S maximal 24 GiB |
|---|---:|---:|
| Vollständig korrekt | 526 | 612 |
| Teilweise | 137 | 88 |
| Ausgelassen | 41 | 11 |
| Falsch | 16 | 9 |
| Falsch in Prioritätspunkten | 9 | 6 |
| Unbelegte Zusatzbehauptungen | 22 | 14 |

Zwölf vorab festgelegte Kriterien pro Quelle. 1440 maskierte A/B-Urteile wurden vor Auflösung der Modellzuordnung festgeschrieben. IQ3_S enthält in 41 Fällen mehr vollständige Kriterien, Qwen3.6 in 3; in 16 Fällen Gleichstand. 561/720 Einzelurteile stimmen überein. Bytegleiche Wiederholungen bei gleichem Modell: Qwen3.6 0/12, IQ3_S 0/12.

V bedeutet vollständig korrekt, T unvollständig ohne sicher falschen Bestandteil, A ausgelassen und F sachlich falsch. Prioritätsfehler sind eine Teilmenge der falschen Kriterien. Unbelegte zusätzliche Aussagen außerhalb der zwölf Kriterien werden separat gezählt. Die knappe Zusammenfassung ist der ursprüngliche Auftrag; höhere Detailabdeckung allein beweist keine höhere praktische Nützlichkeit.

Derselbe KI-Agent erstellt und bewertet den Korpus. 60 Varianten stammen aus 30 verwandten Gesprächspaaren. Dies ist keine unabhängige klinische Validierung.

Im direkten neuen Vergleich erfasst IQ3_S 86 Kriterien mehr vollständig, lässt 30 weniger ganz weg und enthält 7 weniger falsche Kriterien. Qwen3.6 hat damit im erweiterten Test keinen erkennbaren allgemeinen Qualitätsvorteil gegenüber der bisherigen 9B-Q6-Referenz; Vollständigkeit liegt in ähnlicher Größenordnung, während sich Fehlertypen unterscheiden. Der Abstand von 15 vollständigen Kriterien zu 9B-Q6 ist wegen getrennter Bewertungen kein belastbarer Rangplatz.

| Fall | Quelle | Qwen3.6-35B | IQ3_S maximal |
|---|---:|---:|---:|
| [02B](cases/G60_02B.md) | Metformin abschließend 850 mg morgens/abends | 500 mg und 1000 mg/Tag bleiben als tatsächliche Einnahme stehen | 850 mg und 1700 mg/Tag richtig |
| [29B](cases/G60_29B.md) | Ramipril abschließend 5 mg morgens; HbA1c 7,5 aktuell/7,1 vorher | Ramipril 2,5 mg und HbA1c aktuell 7,1 falsch | Ramipril richtig; eindeutige HbA1c-Korrektur jedoch als unklar relativiert |
| [03B](cases/G60_03B.md) | Penicillinallergie des Vaters; kinderärztliche Unterlagen erst anzufordern | Vater richtig, Unterlagenanforderung ausgelassen | Zusätzlich erneut Allergie der Mutter; kinderärztliche Unterlagen fälschlich schon eingetroffen |
| [14B](cases/G60_14B.md) | Apixaban tatsächlich schon 5 mg zweimal täglich, heute keine Umstellung | Endgültige 5-mg-Angabe richtig | 2,5 mg weiter als aktuelle Anamnese, anschließend 5 mg als Dosisanpassung |

Diese Beispiele zeigen auch die Grenzen von IQ3_S: Mehr Detailabdeckung verhindert weder widersprüchliche Dosierungsangaben noch falsche Zuordnungen. Die ältere 27B-Reihe hatte nur einen falschen Kriterienpunkt und keinen Prioritätsfehler. Ein Vorteil von IQ3_S gegenüber 27B bei solchen Fehlern ist hier nicht belegt. Auch eine Qualitätsverbesserung durch den großen IQ3_S-Cache ist nicht nachgewiesen.

## Aktualisierter Qualitätsvergleich aller Modelle

| Modell/Profil | Reihe | V | T | A | F | Prioritäts-F | Zusätze |
|---|---:|---:|---:|---:|---:|---:|---:|
| Flash IQ2_XS minimum 512 MiB | historical GP60 | 585 | 114 | 11 | 10 | 5 | 6 |
| Flash IQ3_S minimum 640 MiB | historical GP60 | 626 | 80 | 8 | 6 | 4 | 16 |
| Qwen3.5-4B Q4_K_M | historical GP60 | 416 | 158 | 128 | 18 | 12 | 15 |
| Qwen3.5-9B Q4_K_M | historical GP60 | 528 | 116 | 58 | 18 | 13 | 8 |
| Qwen3.5-9B Q6_K | historical GP60 | 541 | 104 | 53 | 22 | 14 | 6 |
| Qwen3.8-27B UD-Q4_K_M | historical GP60 | 620 | 85 | 14 | 1 | 0 | 20 |
| Flash IQ3_XXS minimum 576 MiB | historical GP60 cache pair | 625 | 76 | 7 | 12 | 6 | 17 |
| Flash IQ3_XXS maximum 16 GiB / 1664 MiB | historical GP60 cache pair | 622 | 83 | 8 | 7 | 4 | 24 |
| Flash IQ2_XS large cache 6196 MiB | historical GP60 cache pair | 584 | 106 | 24 | 6 | 3 | 3 |
| Qwen3.6-35B-A3B UD-Q4_K_XL | new GP60 | 526 | 137 | 41 | 16 | 9 | 22 |
| Flash IQ3_S maximum 24 GiB | new GP60 | 612 | 88 | 11 | 9 | 6 | 14 |

Alle Zeilen verwenden dieselben GP60-Quellen mit 720 Kriterien. Historische Antworten und Bewertungen sind unverändert übernommen. Die 27B-Zeile stammt aus der vorherigen maskierten Neubewertung: dieselben Antworten erzielten ursprünglich 638 statt 620 vollständige Kriterien. Diese Bewertungsstreuung begrenzt die Aussage kleiner Punktabstände. Das neue Qwen3.6-Ergebnis ersetzt für GP60-Vergleiche die bisher nur vorhandene GP30-Einordnung.

## Laufzeiten und Token aller Vergleichsprofile

| Modell/Profil | Reihe | Eingabe Median | Ausgabe Median | Ausgabe Summe | Erstes Token s | Antwort s | Ausgabetoken/s | GPU Text GiB |
|---|---:|---:|---:|---:|---:|---:|---:|---:|
| Flash IQ2_XS minimum 512 MiB | historical GP60 | 875,5 | 279,0 | 18.176 | 2,144 | 6,117 | 69,30 | 13,035 |
| Flash IQ3_S minimum 640 MiB | historical GP60 | 875,5 | 316,0 | 20.319 | 2,621 | 8,243 | 55,55 | 14,109 |
| Qwen3.5-4B Q4_K_M | historical GP60 | 875,5 | 208,0 | 13.295 | 0,286 | 1,505 | 171,30 | 10,252 |
| Qwen3.5-9B Q4_K_M | historical GP60 | 875,5 | 249,5 | 15.737 | 0,364 | 2,546 | 114,24 | 12,926 |
| Qwen3.5-9B Q6_K | historical GP60 | 875,5 | 261,0 | 16.469 | 0,382 | 3,146 | 94,35 | 14,346 |
| Qwen3.8-27B UD-Q4_K_M | historical GP60 | 875,5 | 310,5 | 19.891 | 1,044 | 8,423 | 41,93 | 23,037 |
| Flash IQ3_XXS minimum 576 MiB | historical GP60 cache pair | 875,5 | 300,5 | 19.733 | 2,336 | 7,062 | 62,05 | 13,654 |
| Flash IQ3_XXS maximum 16 GiB / 1664 MiB | historical GP60 cache pair | 875,5 | 301,0 | 19.293 | 1,176 | 5,414 | 70,30 | 14,717 |
| Flash IQ2_XS large cache 6196 MiB | historical GP60 cache pair | 875,5 | 266,5 | 17.120 | 0,925 | 3,296 | 111,20 | 18,590 |
| Qwen3.6-35B-A3B UD-Q4_K_XL | new GP60 | 875,5 | 264,5 | 16.523 | 0,808 | 3,336 | 105,60 | 21,875 |
| Flash IQ3_S maximum 24 GiB | new GP60 | 875,5 | 296,0 | 19.487 | 1,065 | 4,106 | 97,85 | 22,734 |

Alle Zeit- und Tokenraten sind Mediane; die letzte Spalte ist der höchste Gesamtverbrauch der GPU während Textaufrufen mit geladenen Audioarbeitern. Jede Zeile enthält 60 Hauptantworten und 58.840 Eingabetoken insgesamt. Der frühere große IQ2_XS-Cache ist als zusätzliche historische Referenz aufgenommen; er wurde jetzt nicht erneut gemessen. Die IQ2_XS-Minimalzeile und IQ3_XXS-Zeilen verwenden jeweils die zuletzt vollständig ausgewertete Referenz des betreffenden Profils.

## Speicher und Audiolast

| Höchster beobachteter Wert | Qwen3.6-35B Q4 | IQ3_S maximal 24 GiB |
|---|---:|---:|
| Strata-Prozess VRAM bei Text, GiB | 14,910 | 15,713 |
| Gesamte GPU bei Text, GiB | 21,875 | 22,734 |
| Strata RSS, GiB | 41,692 | 49,115 |
| Strata Swap, MiB | 0,000 | 0,000 |
| Host-RAM bei Text, GiB | 27,817 | 54,666 |
| Hostswap bei Text, GiB | 5,310 | 7,671 |
| Gesamte GPU bei aktiver Audiokette, GiB | 23,105 | 23,965 |
| Abstand zu 24576 MiB beim Audiopeak, MiB | 916,2 | 36,2 |

Die temporäre Reservierung für Qwen3.6 belegte während des Ladens insgesamt 1.578 MiB, einschließlich ihres CUDA-Kontexts. Der native Qwen3.6-Pfad ignoriert vram-reserve. Der eigene Reservierungsprozess wurde vor allen Aufwärm-, Haupt-, Wiederholungs- und modellbegleitenden Audioaufrufen beendet; seine Belegung ist nicht von gemessenen Hauptpeaks abgezogen.

Der Host hatte vor Beginn 5,248 GiB Swap belegt. Physisches Datenträgerlesen der Engines während der 60 Hauptantworten Qwen3.6/IQ3_S: 0,000/1,360 GiB. Ein reiner RAM-Betrieb und die Auswirkung von Swap sind damit nicht isoliert nachgewiesen.

Prozess-RSS und Host-RAM sind unterschiedliche Messgrößen und dürfen nicht addiert oder als eindeutige zusätzliche physische Modellbelegung gelesen werden. Das bisherige Hostswap bleibt teilweise bei den Audioarbeitern belegt; deren geprüfte Modellobjekte bleiben trotzdem auf CUDA geladen. Die Strata-Engine selbst meldete während der Hauptantworten 0 MiB Swap.

## Grenze des IQ3_S-Caches

Die Karte hat tatsächlich 24576 MiB. Nach Aufwärmen der Audioarbeiter wurde das unterstützte Cacheminimum zweimal bestätigt und die Obergrenze auf dem 64-MiB-Raster mit zwei benachbarten Cachegrößen abgegrenzt. Gewählt: 9472 MiB/4857 Slots, reserve_mib=1292, prompt_chunk=8192. Die nächste größere Allokation mit 9536 MiB/4892 Slots wurde nur im Leerlauf gemessen. Mit dem höchsten gemessenen Audiozuwachs ergäben sich 24.601,8 MiB, 25,8 MiB über der Grenze. Sie wurde deshalb nicht unter zusätzlicher Audiolast getestet. Das gewählte Maximum gilt für dieses Raster und die geprüfte Last; die Engine blieb dabei unter ihrer beim Start angelegten Cachekapazität.

Pro Modell liefen drei echte synthetische 48-Sekunden-Audioketten vor und drei nach den Haupt- und Wiederholungsaufrufen; zusätzliche Ketten dienten der Kalibrierung. ASR und Diarisierung liefen nacheinander, während das jeweilige LLM geladen blieb. Gleichzeitige LLM-/ASR-Berechnung oder längere Audioblöcke sind dadurch nicht geprüft.

Das gewählte Profil ließ beim höchsten gemessenen Audiopeak nur 36,2 MiB frei. Es ist das Testmaximum dieser Last, kein Profil mit Betriebsreserve. Kontext 32768 war konfiguriert; die längste Testeingabe hatte 2824 Token. Volle 32k-Eingaben und mehrere gleichzeitige Anfragen wurden nicht geprüft.

## Effektive Einstellungen und Wiederherstellung

Strata 0.2.6, Control 0.1.51, CUDA-Engine 0.1.50. Kontext 32768, ein Slot, Thinking aus, Temperatur 0,1, Seed 42, top_k 40, top_p 0,95, min_p 0,05, repeat_penalty 1,0, presence/frequency_penalty 0, maximal 2400 Ausgabetoken. Originalprompt ohne zusätzliche JSON-Schemavorgabe. IQ3_S: int8 KV, MTP an, spec 4 / minp 0,5, elastischer Cache. Qwen3.6: nativer KV-Standard ohne behauptete explizite KV-Angleichung; MTP 2 wie im vorherigen Profil angefordert.

Backend-Drafttoken angeboten/angenommen in den Hauptantworten: Qwen3.6 0/0, IQ3_S 16406/9734. Daraus wird kein isolierter MTP-Beschleunigungseffekt abgeleitet. Tatsächliche Startargumente sind in den jeweiligen startup-resources-Dateien abgelegt.

Telemetrie: 5279 Punkte bei median 150,0 ms Abstand. Kurze Spitzen können zwischen Abtastungen fehlen. Alle Hauptantworten erfüllen das Vier-Felder-JSON-Schema: Qwen3.6 True, IQ3_S True. Alle gemeldeten Promptcachezähler null: True.

Die ursprünglichen 15 Dienstzustände, 57 Produktionsdateien und sechs bestehenden Strata-Dateien wurden geprüft und wiederhergestellt beziehungsweise unverändert belassen. Der installierte Client bestand Textextraktion in 2,775 s und WAV→ASR→Diarisierung→27B→Rückkehr zu 9B-Q6 in 35,256 s. Testports sind geschlossen, eigene Prozesse und Sicherungstimer beendet. Die private Konfigurationssicherung verbleibt ausschließlich auf dem Server.

## Dateien

- [Alle 60 Quellen und 120 Antworten mit Urteilen](Einzelfaelle.md)
- [Aktualisierter Vergleich aller Modelle als CSV](summary/all_models.csv)
- [144 Einzelmessungen inklusive Token](summary/measurements.csv)
- [1440 Kriterienurteile](summary/fact_reviews.csv)
- [Zusammenfassung als JSON](summary/results.json)
- [Cachekalibrierung](calibration.json)
- [Abschließender Zustandscheck](final-state-check.json)
- [Clientprüfung](restored-client-verification.json)