Add Hermes Agent as reproducible second client

This commit is contained in:
Mikei386
2026-08-24 17:00:39 +02:00
parent 5dd9bbec77
commit 348ca1324e
14 changed files with 237 additions and 5 deletions
+10 -1
View File
@@ -16,7 +16,8 @@ WireGuard-Isolation.
bewusst nicht standardmäßiges Uncensored-Spezialprofil
- `/ultra`: getestetes text-only 256K-Profil (IQ4_XS Pure, beide GPUs,
80:20); etwa 68 Token/s und erfolgreicher 220K-Prompt-Fülltest
- Open WebUI als einzige normale Oberfläche
- Open WebUI als einfache Chat-Oberfläche und Hermes Agent als zweite,
agentische Oberfläche für lange, werkzeugintensive Aufgaben
- native OpenWebUI-Websuche für allgemeine Recherche; SearXNG/Web-MCP als
manueller Spezialadapter ohne externen API-Schlüssel
- zentrale MCP-Werkzeugebene: getrennte Container für Athena-Plattformwissen,
@@ -51,6 +52,8 @@ Neustart an; danach wird derselbe Befehl erneut ausgeführt.
| Dienst | Erreichbarkeit | Zweck |
|---|---|---|
| Open WebUI | `<WG-IP>:8080` | Chat und Administration |
| Hermes Dashboard | `<WG-IP>:9119` | agentischer Chat, Sitzungen, Skills und MCP-Verwaltung |
| Hermes API | `<WG-IP>:8642` | authentifizierte Agent-API |
| Profile Router | `<WG-IP>:8081` | OpenAI-kompatible API, Profilwahl |
| llama.cpp | nur Docker-intern | Inferenz und integrierte Vision |
| Profile Controller | nur Docker-intern | eng begrenzter Profil-/FLUX-Hot-Swap |
@@ -70,6 +73,11 @@ Pi, Hermes und andere Clients verwenden die direkten WireGuard-Ports aus
Infrastruktur-Secrets. Die Bildanalyse ist Bestandteil des multimodalen
Qwen-Modells.
Hermes läuft als eigener, per OCI-Digest gepinnter Container direkt neben
OpenWebUI. Beide sprechen dieselbe Router-API und damit dieselben Qwen-Profile;
Hermes ist kein zusätzlicher Modellserver. Seine Sitzungen, Skills,
Konfiguration und isolierte Arbeitsfläche liegen unter `/data/hermes`.
Open WebUI erhält über die vorgesehenen statischen Anpassungspunkte ein globales
Dark-Theme namens **Midnight Aurora**. CSS und Start-Loader liegen unter
`platform/openwebui/theme/` und werden schreibgeschützt in den Container
@@ -123,6 +131,7 @@ config/install.env.example öffentliche Konfigurationsvorlage
compose.yaml produktiver Stack
platform/docker/llama-cpp/Dockerfile CUDA-llama.cpp-Build
platform/docker/profile-controller/ sichere Profilsteuerung
platform/hermes/ Hermes-Konfiguration und Installer
router/ OpenAI-kompatibler Profile Router
```