# Strata für Kienzledoku: gemessener Vergleich

Messreihe vom 26.10.2026 auf `root@[interner Testrechner]`: RTX 3090 (24576 MiB), Ryzen 9 5900X, 64-GB-RAM-Ausstattung (MemTotal 62,71 GiB). Vergleich mit dem festgeschriebenen GP30-Korpus vom 25.10.2026. Ausschließlich synthetische Gespräche; keine Patientendaten.

## Einordnung für die KI-Zusammenfassung

Strata verarbeitet den unveränderten Kienzledoku-Prompt über `/v1/chat/completions` erfolgreich: 60/60 Hauptantworten sind gültiges Vier-Felder-JSON, ohne HTTP-Fehler, Abbruch am Tokenlimit oder sichtbare Reasoningausgabe. Qwen3.6 erreicht 198 vollständig erhaltene Prüfpunkte gegenüber 196 beim bisherigen 9B-Q6. Flash erreicht 204, das bisherige 27B 218. Der kleine Abstand zwischen Qwen3.6 und 9B-Q6 rechtfertigt keine behauptete allgemeine Qualitätssteigerung.

Warm sind Qwen3.6 und Flash mit 2,260 beziehungsweise 2,168 s nahe am bisherigen 9B-Q6 (2,490 s) und deutlich schneller als das bisherige 27B (6,709 s). Diese Zeiten erfassen nur die Textinferenz. Nach vollständigem Engine-Entladen brauchen die beiden Strata-Modelle im Median 14,45 beziehungsweise 19,03 s bis zur erneuten Bereitschaft. Die historische GP30-Reihe beobachtete je einen warmen Serverstart mit 2,041 s für 9B-Q6 und 3,133 s für 27B; dies sind unterschiedliche Startverfahren und Wiederholungszahlen, aber ein klarer Anlass, beim Wechselbetrieb die Ladezeit mitzuberücksichtigen.

Für den jetzigen Commander ist aus dieser Reihe kein pauschaler Austausch des 9B-Q6 abgeleitet. Flash ist ein interessanter zusätzlicher Kandidat für schnelle Zusammenfassungen bei begrenztem GPU-Cache; seine größere Host-RAM- und Datenträgerbelegung gehört zur Hardwareentscheidung. Ein produktiver Adapter müsste zusätzlich das Verkleinern/Vergrößern des Expertencaches (`/v1/vram`), die vollständige Whisper-/Diarisierungskette und Warteschlange unter gemeinsamem Speicherbudget messen. Die elastische Cache-Änderung ist in dieser Reihe nicht getestet. Die gemessenen vollständigen Entladezeiten beweisen nicht, dass sie ebenso langsam wäre.

Die Versionsnummer allein erklärt die Rangfolge nicht: verglichen wurden unterschiedliche Architekturen, Quantisierungen und Backends (35B-A3B UD-Q4_K_XL, Flash-Next GSQ-RCO IQ2_XS sowie die bisherigen dichten Qwen-Modelle). Das ist ein Vergleich konkret installierter Modellpakete und kein isolierter Generationentest 3.5 gegen 3.6 gegen 3.8.

### Beispiele aus der Quellenprüfung

- GP18: Qwen3.6 ergänzt eine Nachholung der Tetanusimpfung, obwohl nur die kurzfristige Klärung mit dem Pass besprochen ist. Flash erhält „Impfstatus unklar“ und „Impfung nicht erfolgt“.
- GP30: Qwen3.6 ergänzt zeitliche Orientierung; genannt sind Person und Ort. Flash erhält Person/Ort, lässt aber die exakten Dosen von Paracetamol und Pregabalin weg.
- GP10: Beide präzisieren den unbenannten Fragebogen unbelegt: Qwen3.6 zu BDI, Flash zu PHQ-9. Die 0 falschen ausgewählten Prüfpunkte bei Flash bedeuten daher keine insgesamt fehlerfreien Antworten.
- GP06: Flash lässt die ausdrücklich fehlende bestätigte Bandscheibenvorfall-Diagnose aus. Größere Modelle erhalten nicht automatisch jedes relevante Detail.

## Quellenabdeckung

240 vorab festgelegte Prüfpunkte je Modell. V = vollständig erhalten, T = teilweise, A = ausgelassen, F = falsch oder quellenwidrig präzisiert. Zusätzliche unbelegte Aussagen außerhalb dieser Punkte werden separat erfasst; sie sind nicht alle gleich schwerwiegend.

| Modell | V / 240 | T | A | F | Antworten mit Zusatzbehauptung | Alle 8 vollständig |
|---|---:|---:|---:|---:|---:|---:|
| Qwen3.5-4B Q4_K_M | 150 (62.5 %) | 51 | 36 | 3 | 7/30 | 1/30 |
| Qwen3.5-9B Q4_K_M / 32k | 185 (77.1 %) | 46 | 5 | 4 | 5/30 | 5/30 |
| Qwen3.5-9B Q6_K / Original | 196 (81.7 %) | 37 | 4 | 3 | 6/30 | 8/30 |
| Qwen3.8-27B UD-Q4_K_M | 218 (90.8 %) | 20 | 1 | 1 | 8/30 | 16/30 |
| Qwen3.6-35B-A3B Q4 / Strata | 198 (82.5 %) | 36 | 4 | 2 | 6/30 | 8/30 |
| Qwen3.8-Flash-Next IQ2_XS / Strata | 204 (85.0 %) | 34 | 2 | 0 | 7/30 | 9/30 |

Die historische Bewertung der vier bisherigen Modelle bleibt unverändert. Die beiden Strata-Modelle wurden in einer offenen Quellenprüfung durch denselben Agenten anhand desselben Katalogs bewertet. Die alte Reihe war mit neutralen Modellkennungen ausgewertet worden. Diese Methoden unterscheiden sich; kleine Punktdifferenzen begründen keine belastbare Rangfolge und keine allgemeine klinische Genauigkeitsquote. Alle neuen Einzelurteile einschließlich Begründungen sind gespeichert.

## Fallweiser Vergleich der Abdeckung

V zählt 2, T zählt 1, A/F zählen 0. Widersprüche und Zusatzbehauptungen bleiben separate Ergebnisse; diese Tabelle allein ist keine Qualitäts- oder Sicherheitsrangliste.

| Strata-Modell gegenüber Referenz | Vollständiger | Gleich | Weniger vollständig |
|---|---:|---:|---:|
| Qwen3.6-35B-A3B Q4 / Strata gegenüber Qwen3.5-9B Q4_K_M / 32k | 15 | 8 | 7 |
| Qwen3.6-35B-A3B Q4 / Strata gegenüber Qwen3.5-9B Q6_K / Original | 9 | 13 | 8 |
| Qwen3.6-35B-A3B Q4 / Strata gegenüber Qwen3.8-27B UD-Q4_K_M | 4 | 10 | 16 |
| Qwen3.8-Flash-Next IQ2_XS / Strata gegenüber Qwen3.5-9B Q4_K_M / 32k | 18 | 5 | 7 |
| Qwen3.8-Flash-Next IQ2_XS / Strata gegenüber Qwen3.5-9B Q6_K / Original | 13 | 9 | 8 |
| Qwen3.8-Flash-Next IQ2_XS / Strata gegenüber Qwen3.8-27B UD-Q4_K_M | 5 | 11 | 14 |

## Reine Inferenz auf der 3090

| Modell | Erste sichtbare Ausgabe, Median s | Gesamtdauer, Median s | Ausgabe, Median Token | Ausgabe, Median Token/s | Gesamt-VRAM-Peak, GiB |
|---|---:|---:|---:|---:|---:|---:|
| Qwen3.5-4B Q4_K_M | 0.251 | 1.244 | 172 | 171.8 | 5.951 |
| Qwen3.5-9B Q4_K_M / 32k | 0.312 | 2.062 | 201 | 114.5 | 7.476 |
| Qwen3.5-9B Q6_K / Original | 0.323 | 2.490 | 204 | 94.9 | 13.652 |
| Qwen3.8-27B UD-Q4_K_M | 0.902 | 6.709 | 245 | 41.9 | 22.117 |
| Qwen3.6-35B-A3B Q4 / Strata | 0.491 | 2.260 | 217 | 127.9 | 23.347 |
| Qwen3.8-Flash-Next IQ2_XS / Strata | 0.561 | 2.168 | 230 | 142.8 | 23.698 |

Je Modell ein Hauptlauf pro Gespräch, gleiche Fallreihenfolge, gleicher Originalprompt, gleiche Samplingwerte. Die 30 Gespräche sind unterschiedlich lang; die Spannweite ist keine Wiederholungsstreuung. Tokenizer und Backend unterscheiden sich. Token/s stammen aus den jeweiligen Backend-Zeitangaben; primär vergleichbar sind die gemessenen HTTP-Zeiten.

Bei Strata wurden alle anderen Kienzlefon-Dienste gestoppt. In der historischen Reihe waren Whisper und pyannote im RAM geparkt und hinterließen CUDA-Kontexte. Die Gesamt-VRAM-Werte haben deshalb unterschiedliche Hintergrundbelegung. Strata: ein Slot, Kontext 32768, Bilder aus. KV int8 wurde an der CLI angefordert und ist beim Flash-Engine-Aufruf nachgewiesen. Der native Qwen3.6-Aufruf erhält keine entsprechende KV-Option; eine identische KV-Quantisierung ist dort nicht nachgewiesen. Historisch: die dokumentierten Q4-/Q6-/27B-Profile mit unterschiedlichen Kontext- und Slotbudgets. Alle tatsächlichen GP30-Eingaben passen in 32k; dies ist kein Langkontext-Grenztest.

## Laden, Entladen und Wiederholungen

| Strata-Modell | Entladen, Median s | Erneut bereit, Median s | Höchste Host-RAM-Belegung während Inferenz, GiB |
|---|---:|---:|---:|
| Qwen3.6-35B-A3B Q4 / Strata | 4.27 | 14.45 | 22.84 |
| Qwen3.8-Flash-Next IQ2_XS / Strata | 0.97 | 19.03 | 37.72 |

Je drei Zyklen nach den Inferenzmessungen, ohne globales Leeren des Linux-Dateicaches. Das ist erneutes Laden aus dem verfügbaren Dateicache und keine im RAM fertig erhaltene Engine-Instanz. Host-RAM bezeichnet die gesamte Maschinenbelegung anhand MemTotal minus MemAvailable, einschließlich Betriebssystem. Download, Vorbereitung und erster Installationsstart sind separat in den Rohdaten abgelegt und nicht in den Antwortzeiten enthalten.

Für GP15 (kurz), GP25 (mittlere Länge) und GP30 (lang) wurden je Modell fünf zusätzliche warme Wiederholungen gemessen. Sie werden nicht als weitere unabhängige Qualitätsfälle gezählt.

| Modell | Fall | Gesamtzeit Median s | Min–Max s |
|---|---|---:|---:|
| Qwen3.6-35B-A3B Q4 / Strata | GP15 | 1.884 | 1.859–1.981 |
| Qwen3.6-35B-A3B Q4 / Strata | GP25 | 2.191 | 2.162–2.285 |
| Qwen3.6-35B-A3B Q4 / Strata | GP30 | 5.737 | 5.469–6.065 |
| Qwen3.8-Flash-Next IQ2_XS / Strata | GP15 | 2.008 | 1.891–2.326 |
| Qwen3.8-Flash-Next IQ2_XS / Strata | GP25 | 1.879 | 1.809–2.127 |
| Qwen3.8-Flash-Next IQ2_XS / Strata | GP30 | 5.168 | 4.956–5.546 |

## Begrenzte VRAM-Budgets

Machbarkeit auf derselben RTX 3090 mit Stratas VRAM-Reserve, keine Messung auf einer physischen 8-/16-GB-Karte. CPU, PCIe und RAM bleiben unverändert. Diese Zeiten dürfen nicht als Geschwindigkeitsprognose einer anderen GPU gelesen werden.

| Modell | Ziel GiB | Start | Erfolgreich / Versuche | Median s | Beobachteter Inferenzpeak GiB |
|---|---:|---|---:|---:|---:|
| Qwen3.6-35B-A3B Q4 / Strata | 8 | bereit | 9/9 | 2.202 | 23.347 |
| Qwen3.6-35B-A3B Q4 / Strata | 16 | bereit | 9/9 | 2.188 | 23.347 |
| Qwen3.8-Flash-Next IQ2_XS / Strata | 8 | bereit | 9/9 | 4.537 | 8.411 |
| Qwen3.8-Flash-Next IQ2_XS / Strata | 16 | bereit | 9/9 | 2.514 | 16.392 |

**Die erste Qwen3.6-Budgetprobe begrenzte den Speicher tatsächlich nicht.** Die native Engine protokolliert `ignoring --vram-reserve-mib ... (not an option of this engine)`. Ihre 23,347 GiB sind deshalb keine erfolgreiche 8-/16-GiB-Messung. Flash reagiert auf die Reserve, überschreitet bei der ersten Vorgabe aber durch zusätzlichen Overhead die Zielwerte. Beide Erstversuche bleiben als Rohdaten erhalten.

Eine erfolgreiche HTTP-Antwort allein beweist die Einhaltung des Budgets nicht; maßgeblich sind die beobachteten Peaks. 150-ms-Abtastung kann kürzere Spitzen übersehen. Für die Budgetproben wurde die Inhaltsbewertung der 30 Hauptfälle nicht wiederholt.

### Flash mit zusätzlicher Reserve für Overhead

Separate Nachmessung mit 768 MiB zusätzlicher Reserve: 17152 MiB bei Ziel 8 GiB, 8960 MiB bei Ziel 16 GiB. Jeweils GP15, GP25 und GP30 mit drei Wiederholungen, gleicher 32k-Kontext und Originalprompt.

| Ziel GiB | Gültiges JSON / Aufrufe | Gesamtdauer Median s | Min–Max s | Inferenzpeak GiB | Ladepeak GiB |
|---|---:|---:|---:|---:|---:|
| 8 | 9/9 | 4.796 | 3.441–9.448 | 7.657 | 7.536 |
| 16 | 9/9 | 2.581 | 2.257–6.103 | 15.644 | 15.536 |

Die beobachteten Lade- und Inferenzpeaks halten die jeweiligen Grenzen ein. Das belegt diese Einzelanfragen auf der 3090 mit beschränktem Cache. Es belegt keinen gleichzeitigen Betrieb von Whisper, Diarisierung und LLM in 8/16 GiB und keine Geschwindigkeit einer anderen Grafikkarte.

### Qwen3.6 mit begrenztem tatsächlich freiem VRAM

Ein eigener CUDA-Prozess hält ungenutzten VRAM belegt und führt während der Messung keine Berechnung aus. Seine komplette NVML-Prozessbelegung wird vom Gesamtpeak abgezogen; Treiber, Desktop und Strata bleiben enthalten. So reagiert die native Engine auf real weniger freien Speicher. Der Blocker hat zusätzlich eigenen CUDA-Kontext-Overhead und lässt etwas weniger als die nominelle Grenze übrig. Eine physische kleinere Karte wird damit weiterhin nicht nachgebildet.

| Ziel GiB | Kontext | Start | Gültiges JSON / Aufrufe | Median s | Peak ohne Blocker, GiB |
|---|---:|---|---:|---:|---:|
| 8 | 32768 | fehlgeschlagen (Code 6) | 0/0 | — | 7.674 |
| 16 | 32768 | bereit | 9/9 | 3.050 | 15.116 |

Die 32k-Probe im 8-GiB-Budget scheitert beim Laden mit CUDA-Speichermangel. Dies ist ein Ergebnis dieses Profils und keine Aussage über alle kleineren Kontexte oder andere Quantisierungen. Die Engine- und Startprotokolle sind im jeweiligen Ergebnisordner erhalten.

### Qwen3.6: separate 8k-Kontextprobe

Ein eigener CUDA-Prozess hält ungenutzten VRAM belegt und führt während der Messung keine Berechnung aus. Seine komplette NVML-Prozessbelegung wird vom Gesamtpeak abgezogen; Treiber, Desktop und Strata bleiben enthalten. So reagiert die native Engine auf real weniger freien Speicher. Der Blocker hat zusätzlich eigenen CUDA-Kontext-Overhead und lässt etwas weniger als die nominelle Grenze übrig. Eine physische kleinere Karte wird damit weiterhin nicht nachgebildet.

| Ziel GiB | Kontext | Start | Gültiges JSON / Aufrufe | Median s | Peak ohne Blocker, GiB |
|---|---:|---|---:|---:|---:|
| 8 | 8192 | fehlgeschlagen (Code 6) | 0/0 | — | 6.944 |

## Wiederhergestellter Betrieb

Alle zuvor erfassten Dienste haben wieder denselben Aktivierungs- und Laufzustand. Die gesicherten Produktionsdateien sind SHA-256-gleich. Der Commander läuft wieder mit Gründlich (Qwen3.5-9B Q6_K), drei Slots und den ursprünglichen Parametern. Sehr gründlich (Qwen3.8-27B) bleibt auswählbar; der alte separate LLM-Dienst bleibt wie vor dem Test deaktiviert. ASR und Diarisierung sind bereit. Ein echter Durchlauf über den installierten Client prüft erneut ASR → Diarisierung → 27B und die Rückkehr zu 9B-Q6.

Strata und die Modelldateien bleiben installiert; der Strata-Testserver ist beendet und ersetzt keinen Produktionsdienst. CLI: `/opt/strata-benchmark/bin/strata`, Modelldaten: `/opt/strata-benchmark/models`, signierte Engine-Komponenten: `/root/.local/share/strata/components`.

Der abschließende Client-Test benötigte 2.69 s für die Standardextraktion und 25.25 s für den synthetischen Audioablauf. Dies ist eine Funktionsprüfung des zurückgestellten Originalbetriebs, kein Strata-Audiovergleich. Der Status danach ist `asr_ready`, 9B-Q6 geladen, keine aktiven oder wartenden Aufträge und kein letzter Fehler. Alle 57 gesicherten Produktionsdateien sind unverändert. Der Testport 8096 ist geschlossen; keine Testprozesse oder temporären Testtimer bleiben aktiv. Belege: `restoration.json`, `restored-client-verification.json`, `final-cleanup.json`.

Die isolierte Strata-Installation belegt logisch 99.70 GB auf dem Datenträger. Allein die Flash-GGUFs umfassen 68,03 GB, Qwen3.6 22,85 GB; hinzu kommen abgeleitete Pakete, MTP-Dateien und Laufzeit. Der Kernel meldet insgesamt 62,71 GiB RAM. Bei Flash lag die belegte Maschinen-RAM-Menge während der Hauptinferenz bei 37,72 GiB, bei Qwen3.6 bei 22,84 GiB. Dies sind Maschinenwerte einschließlich Betriebssystem; ein 32-GiB-Host wurde nicht nachgewiesen.

## Messdatenprüfung

60 Hauptantworten, 30 warme Wiederholungen und 63 zusätzliche Budgetantworten sind vollständig gespeichert; alle 153 Antworten erfüllen das Vier-Felder-JSON-Schema, ohne protokollierten HTTP-Fehler. Zwei Qwen3.6-Startversuche im begrenzten 8-GiB-Budget scheiterten vor der Inferenz und sind separat dokumentiert. Die 60 bewerteten Hauptantworten umfassen 480 Einzelurteile; zusätzliche Wiederholungen werden nicht als Qualitätsfälle gezählt. Quelltexte, Originalprompt und Fallreihenfolge sind bytegleich zur Referenz; Antwort-Hashes wurden gegen die Rohdateien geprüft.

Telemetrie nominal alle 150 ms. Der tatsächlich beobachtete Median liegt in allen Abschnitten nahe 150 ms, einzelne Abstände innerhalb derselben Phase erreichen bis zu 1,85 s. Deshalb sind die Speicherwerte beobachtete Peaks, keine garantierten Obergrenzen. Monitorfehler: 0. Die gesamte Maschinen-Swapbelegung erreichte während Vorbereitung/Download zeitweise 750,1 MiB; die abschnittsweisen Werte stehen in `measurement_audit.json`. Das ist kein Nachweis anhaltender Swap-I/O während der Inferenz.

Beim Flash-Hauptlauf wurden 6168 Drafttoken angeboten und 3743 angenommen (60,7 %). Qwen3.6 bot trotz konfiguriertem MTP in diesen Hauptantworten keine Drafttoken an. Ohne eigenen MTP-an/aus-Vergleich wird daraus kein isolierter Beschleunigungsgewinn abgeleitet.

## Herkunft und Grenzen

- Projektquelle: [niko1221/strata](https://github.com/niko1221/strata). Getestet ist der tatsächlich installierte signierte Release, nicht jeder Stand des Repository-Hauptzweigs.
- Strata-Appversion 0.2.6, Control-Build 0.1.51; tatsächlich verwendete CUDA-Engine 0.1.50, signierter Build `1aff6d14117b+cuda13.0`.
- Temperatur 0,1, Seed 42, top-k 40, top-p 0,95, min-p 0,05, Wiederholungsstrafe 1,0; Presence/Frequency Penalty ausdrücklich 0 wie in der Referenz. Thinking aus.
- Kein zusätzlicher JSON-Schema-Prompt: derselbe ursprüngliche Vier-Felder-Prompt. Flash akzeptiert `--prompt-cache 0`. Die native Qwen3.6-Engine ignoriert diese Option ausdrücklich. Für sämtliche 60 Hauptantworten sind dennoch 0 wiederverwendete Prompttoken protokolliert; die Qwen3.6-Engine-Logs bestätigen dies.
- Beide Modellpakete, Modellnamen und effektiven Eigenschaften sind über `/health`, `/props` und `/v1/models` erfasst.
- Vor dem ersten Inferenzlauf wurde während des Downloads die explizite Penalty-Angleichung ergänzt. Der Download wurde fortgesetzt; keine bereits erzeugte Hauptantwort wurde ersetzt.
- 30 synthetische Gespräche, ein Hauptlauf je Modell/Fall, ein Seed. Keine unabhängige fachärztliche Validierung; keine allgemeine Sicherheitsfreigabe.
- Vollständige Rohantworten unter `raw/`, Messungen in `runs.json`, `repeats.json`, `loads.json`, Telemetrie unter `monitor/`, Einzelurteile unter `review_scores/`. `method.json` enthält die ursprünglich angeforderten CLI-Optionen; `method-effective.json` dokumentiert die später anhand der Engine-Logs festgestellten Unterschiede.
- Vergleichsquelle: `../gp30-2026-10-25-05/Auswertung.md`; unveränderte Eingaben und Herkunft unter `baseline_provenance.json`.

[Alle neuen Antworten und Einzelurteile](Einzelfaelle.md).