Add Hermes Agent as reproducible second client
This commit is contained in:
@@ -16,7 +16,8 @@ WireGuard-Isolation.
|
||||
bewusst nicht standardmäßiges Uncensored-Spezialprofil
|
||||
- `/ultra`: getestetes text-only 256K-Profil (IQ4_XS Pure, beide GPUs,
|
||||
80:20); etwa 68 Token/s und erfolgreicher 220K-Prompt-Fülltest
|
||||
- Open WebUI als einzige normale Oberfläche
|
||||
- Open WebUI als einfache Chat-Oberfläche und Hermes Agent als zweite,
|
||||
agentische Oberfläche für lange, werkzeugintensive Aufgaben
|
||||
- native OpenWebUI-Websuche für allgemeine Recherche; SearXNG/Web-MCP als
|
||||
manueller Spezialadapter ohne externen API-Schlüssel
|
||||
- zentrale MCP-Werkzeugebene: getrennte Container für Athena-Plattformwissen,
|
||||
@@ -51,6 +52,8 @@ Neustart an; danach wird derselbe Befehl erneut ausgeführt.
|
||||
| Dienst | Erreichbarkeit | Zweck |
|
||||
|---|---|---|
|
||||
| Open WebUI | `<WG-IP>:8080` | Chat und Administration |
|
||||
| Hermes Dashboard | `<WG-IP>:9119` | agentischer Chat, Sitzungen, Skills und MCP-Verwaltung |
|
||||
| Hermes API | `<WG-IP>:8642` | authentifizierte Agent-API |
|
||||
| Profile Router | `<WG-IP>:8081` | OpenAI-kompatible API, Profilwahl |
|
||||
| llama.cpp | nur Docker-intern | Inferenz und integrierte Vision |
|
||||
| Profile Controller | nur Docker-intern | eng begrenzter Profil-/FLUX-Hot-Swap |
|
||||
@@ -70,6 +73,11 @@ Pi, Hermes und andere Clients verwenden die direkten WireGuard-Ports aus
|
||||
Infrastruktur-Secrets. Die Bildanalyse ist Bestandteil des multimodalen
|
||||
Qwen-Modells.
|
||||
|
||||
Hermes läuft als eigener, per OCI-Digest gepinnter Container direkt neben
|
||||
OpenWebUI. Beide sprechen dieselbe Router-API und damit dieselben Qwen-Profile;
|
||||
Hermes ist kein zusätzlicher Modellserver. Seine Sitzungen, Skills,
|
||||
Konfiguration und isolierte Arbeitsfläche liegen unter `/data/hermes`.
|
||||
|
||||
Open WebUI erhält über die vorgesehenen statischen Anpassungspunkte ein globales
|
||||
Dark-Theme namens **Midnight Aurora**. CSS und Start-Loader liegen unter
|
||||
`platform/openwebui/theme/` und werden schreibgeschützt in den Container
|
||||
@@ -123,6 +131,7 @@ config/install.env.example öffentliche Konfigurationsvorlage
|
||||
compose.yaml produktiver Stack
|
||||
platform/docker/llama-cpp/Dockerfile CUDA-llama.cpp-Build
|
||||
platform/docker/profile-controller/ sichere Profilsteuerung
|
||||
platform/hermes/ Hermes-Konfiguration und Installer
|
||||
router/ OpenAI-kompatibler Profile Router
|
||||
```
|
||||
|
||||
|
||||
Reference in New Issue
Block a user