Audit Athena quantization inventory and runtime efficiency limits

This commit is contained in:
Mikei386 committed 2026-09-20 21:18:27 +02:00
1 parent 4007242709
commit 2425c999b0
11 files changed
+532 -1

No files matched your search

+8 -1
View File
@@ -1,6 +1,6 @@
# Register getesteter Modelle
Stand: 19. September 2026
Stand: 20. September 2026
Dieses Dokument ist die zentrale Sperrliste gegen doppelte Modelltests. Vor
jedem Download müssen Repository, Dateiname, Basismodell, Fine-Tune und
@@ -31,6 +31,13 @@ Statuswerte:
| 08.09.2026 | `Tiel-Coder-35B-A3B-UD-IQ4_XS.gguf` | 160K vorgesehen | Testcontainer und Gewichte vorhanden gewesen, aber kein versionierter, belastbarer Abnahmebericht | **unvollständig**; nicht als getesteter Sieger behandeln | kein Ergebnisartefakt vorhanden |
| 19.09.2026 | `ornith-ai/Ornith-1.5-35B-A3B-GGUF` / `Ornith-1.5-35B-Q4_K_M.gguf`, Revision `12393612fd4f730ff5aadc23e9b8f9648aa49ceb` | 76,8K–262K | 20–39 % kürzere Gesamtzeit und 39–77 % schnellerer Lang-Decode; Tool-Call, 48,6K-Recall und Vision korrekt. Die First-success-Async-Aufgabe war jedoch in allen drei Profilen und beiden Wiederholungen falsch | **verworfen als Produktionsersatz**; nur gestoppter Versuchskandidat | [Ornith A/B result](../experiments/ornith15-ab/results/RESULTS.md) |
## Ergänzungen vom 20.09.2026
- **Pure/MIX-Referenz eingefroren:** [sieben Messfälle](../benchmarks/athena-qwen38-reference-20260920/README.md). Für weitere Vergleiche wiederverwenden, nicht automatisch erneut benchmarken.
- **ByteShape GPU-5 / IQ4_XS 3.84bpw:** getestet; mehr Einzelkarten-Kontext, kein genereller Tempo-/Qualitätsvorteil. Kein Produktionsersatz. [Bericht](QWEN38_BYTESHAPE_AB_20260920.md).
- **DFlash2 Q4_K_M als Draft für Pure:** Ein-Slot-Kurztest mit Draft auf 3060 bestanden, kein klarer Geschwindigkeitsvorteil; breite Qualität/Langkontext offen. [Bericht](DFLASH2_ONE_SLOT_20260920.md).
- **nvidia/Qwen3.8-27B-NVFP4**, Revision `482ca0f3832238542f8f5295dde86b5f22711d80`: nur Metadaten-/Kapazitätsprüfung, **kein Inferenztest**. Vollständige Gewichtsdateien 20,42 GiB, kein direkter 16-GB-Einzelkarten-Kandidat. Nicht mit dem historischen NVFP4-benannten Q4_K_M-GGUF gleichsetzen. [Abschlussprüfung](ATHENA_EFFICIENCY_REVIEW_20260920.md).
## Externe CPU-Helfermodelle
Diese Versuche liefen nicht als Athena-Hauptprofil, sind aber relevant für