Replace compression sidecar with Hermes micro-compaction
This commit is contained in:
1 parent
438bd34b72
commit
896c12193e
8 files changed
+23
-140
No files matched your search
@@ -10,13 +10,10 @@ zusammen mit dem übrigen Appdata gesichert.
|
||||
- `compose.yaml` ist der einzige Einstieg für die KI-Dienste auf Athena.
|
||||
- Genau ein llama.cpp-Profil ist aktiv. Der Router schaltet zwischen Fast,
|
||||
Medium, Large, Ultra und Uncensored.
|
||||
- Ein unabhängiges Qwen3.5-4B-Testmodell kann auf der RTX 3060 über
|
||||
`http://192.168.1.212:8099/v1` gezielt gestartet werden. Es ist ein
|
||||
standardmäßig gestoppter, optionaler Benchmark-Endpunkt und
|
||||
ausdrücklich **nicht** global für Hermes-Kompression aktiviert: technische
|
||||
End-to-End-Tests zeigten trotz hoher Gesamttreue ausgelassene ältere
|
||||
`KEY=value`-Zustände. Produktive Kompression übernimmt das jeweils gewählte
|
||||
27B-Hauptprofil.
|
||||
- Hermes verdichtet ältere Assistenten- und Werkzeug-Turns fortlaufend per
|
||||
Micro-Compaction (alle fünf abgeschlossenen Turns). Das jeweils gewählte
|
||||
27B-Hauptprofil erstellt die Zusammenfassung; ein separates, weniger
|
||||
zuverlässiges Kompressionsmodell wird nicht betrieben.
|
||||
- Der **Athena Operator** bleibt als einziger hostgebundener administrativer
|
||||
MCP direkt auf Athena. MCPHub veröffentlicht seinen vorhandenen
|
||||
WireGuard-HTTP-Endpunkt zentral unter `/mcp/athena-operator`; es gibt keinen
|
||||
|
||||
Reference in new issue
Block a user