michael/AI-Profile-Router
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

Keep experimental compressor stopped by default

Browse Source
This commit is contained in:
Mikei386
2026-08-26 01:42:14 +02:00
parent aaadc57c07
commit 438bd34b72
2 changed files with 8 additions and 6 deletions
Download Patch File Download Diff File Expand all files Collapse all files
docs/STANDARD_PROFILE_MATRIX.md
+5 -4
View File
@@ -32,9 +32,9 @@ und einer bewussten Aktualisierung dieser Datei.
## Experimentelles Hermes-Kompressionsmodell
Der Alias `qwen-compression` ist kein Chatprofil. Qwen3.5-4B Q4_K_M läuft
unabhängig mit 65.536 Token Kontext auf der RTX 3060 und ist nur über
WireGuard auf Port 8099 erreichbar. Non-Thinking und ein 12K-Notausgangslimit
Der Alias `qwen-compression` ist kein Chatprofil. Qwen3.5-4B Q4_K_M kann
unabhängig mit 65.536 Token Kontext auf der RTX 3060 gestartet werden und ist
dann nur über WireGuard auf Port 8099 erreichbar. Non-Thinking und ein 12K-Notausgangslimit
verhindern bekannte Wiederholungsschleifen. Das Modell ist absichtlich **nicht
global in Hermes aktiviert**; produktive Kompression nutzt das gewählte
27B-Hauptprofil.
@@ -49,7 +49,8 @@ global in Hermes aktiviert**; produktive Kompression nutzt das gewählte
verbleibend rund 2.460 MiB.
- Sicherheitsentscheidung: als reproduzierbarer Testdienst behalten, aber
erst nach zuverlässig vollständiger technischer Zustandsbewahrung als
globalen Kompressor freigeben.
globalen Kompressor freigeben. Der Container bleibt außerhalb gezielter
Benchmarks gestoppt, damit die RTX 3060 für Medium/Large/Ultra frei ist.
## Nachweise