Replace compression sidecar with Hermes micro-compaction

This commit is contained in:
Mikei386 committed 2026-08-26 06:18:51 +02:00
1 parent 438bd34b72
commit 896c12193e
8 files changed
+23 -140

No files matched your search

+4 -7
View File
@@ -10,13 +10,10 @@ zusammen mit dem übrigen Appdata gesichert.
- `compose.yaml` ist der einzige Einstieg für die KI-Dienste auf Athena.
- Genau ein llama.cpp-Profil ist aktiv. Der Router schaltet zwischen Fast,
Medium, Large, Ultra und Uncensored.
- Ein unabhängiges Qwen3.5-4B-Testmodell kann auf der RTX 3060 über
`http://192.168.1.212:8099/v1` gezielt gestartet werden. Es ist ein
standardmäßig gestoppter, optionaler Benchmark-Endpunkt und
ausdrücklich **nicht** global für Hermes-Kompression aktiviert: technische
End-to-End-Tests zeigten trotz hoher Gesamttreue ausgelassene ältere
`KEY=value`-Zustände. Produktive Kompression übernimmt das jeweils gewählte
27B-Hauptprofil.
- Hermes verdichtet ältere Assistenten- und Werkzeug-Turns fortlaufend per
Micro-Compaction (alle fünf abgeschlossenen Turns). Das jeweils gewählte
27B-Hauptprofil erstellt die Zusammenfassung; ein separates, weniger
zuverlässiges Kompressionsmodell wird nicht betrieben.
- Der **Athena Operator** bleibt als einziger hostgebundener administrativer
MCP direkt auf Athena. MCPHub veröffentlicht seinen vorhandenen
WireGuard-HTTP-Endpunkt zentral unter `/mcp/athena-operator`; es gibt keinen