Document Hermes migration to Unraid
This commit is contained in:
@@ -13,7 +13,9 @@ Fehlersuche sie benötigt.
|
|||||||
- Lokale Konfiguration und Secrets: `/etc/mike-ai` (niemals in Git).
|
- Lokale Konfiguration und Secrets: `/etc/mike-ai` (niemals in Git).
|
||||||
- Benutzerzugriff auf KI-Dienste: über WireGuard, nicht über das Uni-LAN.
|
- Benutzerzugriff auf KI-Dienste: über WireGuard, nicht über das Uni-LAN.
|
||||||
- OpenAI-kompatible Modell-API: Profile Router auf Port 8081.
|
- OpenAI-kompatible Modell-API: Profile Router auf Port 8081.
|
||||||
- Oberflächen: Hermes Agent und OpenWebUI.
|
- Oberfläche auf Athena: OpenWebUI. Der offizielle Hermes Agent läuft auf
|
||||||
|
Unraid unter `/mnt/nvme-storage/appdata/Hermes-Agent` und verwendet Athenas
|
||||||
|
Router als Modell-Backend.
|
||||||
- Inferenz: genau ein aktives llama.cpp-Textprofil; der Router wechselt bei
|
- Inferenz: genau ein aktives llama.cpp-Textprofil; der Router wechselt bei
|
||||||
Bedarf zwischen Fast, Medium, Large, Ultra und Uncensored.
|
Bedarf zwischen Fast, Medium, Large, Ultra und Uncensored.
|
||||||
|
|
||||||
@@ -39,10 +41,10 @@ MCPs getrennt, beispielsweise Home Assistant, Unraid, ARR, Navidrome, Deemix,
|
|||||||
Web und SSH. Es gibt jedoch keine zusätzlichen MCPs für einzelne
|
Web und SSH. Es gibt jedoch keine zusätzlichen MCPs für einzelne
|
||||||
Zwischenschritte einer Installation.
|
Zwischenschritte einer Installation.
|
||||||
|
|
||||||
Hermes ist die primäre Oberfläche für längere administrative und agentische
|
Hermes auf Unraid ist die primäre Oberfläche für längere administrative und
|
||||||
Aufgaben. OpenWebUI erhält weiterhin die Werkzeuge, die für kurze Abfragen
|
agentische Aufgaben. OpenWebUI auf Athena erhält weiterhin die Werkzeuge, die
|
||||||
sinnvoll sind. Ein neuer MCP muss nicht automatisch in jede Oberfläche
|
für kurze Abfragen sinnvoll sind. Ein neuer MCP muss nicht automatisch in jede
|
||||||
eingebunden werden; das richtet sich nach dem Auftrag.
|
Oberfläche eingebunden werden; das richtet sich nach dem Auftrag.
|
||||||
|
|
||||||
## Standardablauf für Änderungen
|
## Standardablauf für Änderungen
|
||||||
|
|
||||||
|
|||||||
@@ -1,9 +1,9 @@
|
|||||||
# Athena AI
|
# Athena AI
|
||||||
|
|
||||||
Ein reproduzierbarer Docker-Stack für Athenas lokale KI. Athena stellt Router,
|
Ein reproduzierbarer Docker-Stack für Athenas lokale KI. Athena stellt Router,
|
||||||
llama.cpp-Profile, OpenWebUI, Hermes, Sprache und Bildgenerierung bereit. Die
|
llama.cpp-Profile, OpenWebUI, Sprache und Bildgenerierung bereit. Der offizielle
|
||||||
portablen Werkzeuge laufen zentral im MCPHub auf Unraid und werden dort zusammen
|
Hermes Agent und die portablen Werkzeuge laufen auf Unraid und werden dort
|
||||||
mit dem übrigen Appdata gesichert.
|
zusammen mit dem übrigen Appdata gesichert.
|
||||||
|
|
||||||
## Aufbau
|
## Aufbau
|
||||||
|
|
||||||
@@ -21,9 +21,12 @@ mit dem übrigen Appdata gesichert.
|
|||||||
Unraid-Netz verfügbar ist.
|
Unraid-Netz verfügbar ist.
|
||||||
- `config/mcp-registry.json` ist die einzige Liste der MCPs für Hermes und
|
- `config/mcp-registry.json` ist die einzige Liste der MCPs für Hermes und
|
||||||
OpenWebUI. `platform/mcp/sync-clients.py` erzeugt beide Registrierungen.
|
OpenWebUI. `platform/mcp/sync-clients.py` erzeugt beide Registrierungen.
|
||||||
- Modelle, Hermes-Daten und Athena-Backups liegen auf `/data`. MCPHub-Zustand,
|
- Modelle und Athena-Backups liegen auf `/data`. Hermes liegt vollständig unter
|
||||||
Client-Schlüssel und MCP-Zugänge liegen im Unraid-Appdata-Verzeichnis
|
`/mnt/nvme-storage/appdata/Hermes-Agent`; MCPHub-Zustand, Client-Schlüssel und
|
||||||
`/mnt/nvme-storage/appdata/MCPHub`.
|
MCP-Zugänge liegen unter `/mnt/nvme-storage/appdata/MCPHub`.
|
||||||
|
- Hermes verwendet unverändert `nousresearch/hermes-agent:latest`. Seine
|
||||||
|
Profile erreichen Athenas Router über `http://192.168.1.212:8081/v1`.
|
||||||
|
Die frühere Athena-Instanz bleibt vorerst gestoppt als Rückfall erhalten.
|
||||||
- KI-Oberflächen und APIs sind nur über WireGuard erreichbar.
|
- KI-Oberflächen und APIs sind nur über WireGuard erreichbar.
|
||||||
|
|
||||||
## Installation – ein Befehl
|
## Installation – ein Befehl
|
||||||
@@ -54,7 +57,9 @@ OpenWebUI: `http://<WireGuard-IP>:8080`
|
|||||||
|
|
||||||
Router-API: `http://<WireGuard-IP>:8081/v1`
|
Router-API: `http://<WireGuard-IP>:8081/v1`
|
||||||
|
|
||||||
Hermes: `http://<WireGuard-IP>:9119`
|
Hermes-Dashboard: `http://<Unraid-IP>:9119`
|
||||||
|
|
||||||
|
Hermes-API: `http://<Unraid-IP>:8642`
|
||||||
|
|
||||||
## Wiederherstellung – ein Befehl
|
## Wiederherstellung – ein Befehl
|
||||||
|
|
||||||
@@ -75,7 +80,7 @@ Details, Prüfschritte und der exakte Sicherungsumfang stehen in
|
|||||||
|
|
||||||
Die MCPHub-Installation, Endpunkte und der schrittweise Rückbau der alten
|
Die MCPHub-Installation, Endpunkte und der schrittweise Rückbau der alten
|
||||||
Athena-MCPs stehen in [`platform/mcphub/README.md`](platform/mcphub/README.md).
|
Athena-MCPs stehen in [`platform/mcphub/README.md`](platform/mcphub/README.md).
|
||||||
Für eine spätere Verlagerung des Hermes-Gateways auf Unraid liegt unter
|
Für Installation oder Wiederherstellung des Hermes-Gateways auf Unraid liegt unter
|
||||||
[`config/unraid-templates/my-Hermes-Agent-Official.xml`](config/unraid-templates/my-Hermes-Agent-Official.xml)
|
[`config/unraid-templates/my-Hermes-Agent-Official.xml`](config/unraid-templates/my-Hermes-Agent-Official.xml)
|
||||||
ein DockerMan-Template, das unverändert das offizielle Nous-Image verwendet.
|
ein DockerMan-Template, das unverändert das offizielle Nous-Image verwendet.
|
||||||
|
|
||||||
|
|||||||
+26
-11
@@ -5,7 +5,8 @@
|
|||||||
Der Container `mike-ai-backup` erstellt alle fünf Stunden ein komprimiertes
|
Der Container `mike-ai-backup` erstellt alle fünf Stunden ein komprimiertes
|
||||||
Archiv unter `/data/docker-backups` und behält 14 Tage. Während der kurzen
|
Archiv unter `/data/docker-backups` und behält 14 Tage. Während der kurzen
|
||||||
Sicherung wird nur OpenWebUI angehalten, damit seine SQLite-Datenbank konsistent
|
Sicherung wird nur OpenWebUI angehalten, damit seine SQLite-Datenbank konsistent
|
||||||
ist. Netzwerk, WireGuard, Router, Hermes und Qwen bleiben erreichbar.
|
ist. Netzwerk, WireGuard, Router und Qwen bleiben erreichbar. Hermes läuft
|
||||||
|
unabhängig davon auf Unraid weiter.
|
||||||
|
|
||||||
Enthalten sind:
|
Enthalten sind:
|
||||||
|
|
||||||
@@ -16,17 +17,31 @@ Enthalten sind:
|
|||||||
- TinySearch-Modellcache
|
- TinySearch-Modellcache
|
||||||
- ein Quellbaum-Snapshot als zusätzliche Bequemlichkeit
|
- ein Quellbaum-Snapshot als zusätzliche Bequemlichkeit
|
||||||
|
|
||||||
Nicht kopiert werden `/data/models`, `/data/hermes` und
|
Nicht kopiert werden `/data/models`, die nur noch als Rückfall vorhandene Kopie
|
||||||
`/data/hermes-webui`: Sie liegen bereits dauerhaft auf der Daten-SSD und
|
`/data/hermes` und `/data/hermes-webui`: Sie liegen dauerhaft auf der Daten-SSD
|
||||||
überleben den Austausch der Debian-Systemplatte. Docker-Images werden aus dem
|
und überleben den Austausch der Debian-Systemplatte. Docker-Images werden aus
|
||||||
Compose-Stack reproduziert und gehören nicht ins Backup.
|
dem Compose-Stack reproduziert und gehören nicht ins Backup.
|
||||||
|
|
||||||
Die portablen Fach-MCPs gehören nicht mehr zum Athena-Systembackup. MCPHub,
|
Die portablen Fach-MCPs und Hermes gehören nicht mehr zum Athena-Systembackup.
|
||||||
seine Serverliste, Client-Schlüssel und die lokalen MCP-Zugänge liegen unter
|
MCPHub liegt unter `/mnt/nvme-storage/appdata/MCPHub`, Hermes vollständig unter
|
||||||
`/mnt/nvme-storage/appdata/MCPHub` auf Unraid und werden vom bestehenden
|
`/mnt/nvme-storage/appdata/Hermes-Agent`. Beide Verzeichnisse werden vom
|
||||||
Unraid-Appdata-Backup gesichert. Für ein vollständiges Desaster-Recovery müssen
|
bestehenden Unraid-Appdata-Backup gesichert. Für ein vollständiges
|
||||||
daher sowohl Athenas `/data` als auch dieses Unraid-Appdata-Backup verfügbar
|
Desaster-Recovery müssen daher sowohl Athenas `/data` als auch dieses
|
||||||
sein.
|
Unraid-Appdata-Backup verfügbar sein.
|
||||||
|
|
||||||
|
## Hermes auf Unraid wiederherstellen
|
||||||
|
|
||||||
|
1. `/mnt/nvme-storage/appdata/Hermes-Agent` aus dem Unraid-Appdata-Backup
|
||||||
|
wiederherstellen.
|
||||||
|
2. `config/unraid-templates/my-Hermes-Agent-Official.xml` nach
|
||||||
|
`/boot/config/plugins/dockerMan/templates-user/` kopieren.
|
||||||
|
3. In Unraid **Docker → Add Container → User Templates → Hermes-Agent** wählen,
|
||||||
|
die maskierten Schlüssel aus der wiederhergestellten `.env` übernehmen und
|
||||||
|
den Container starten.
|
||||||
|
4. `http://127.0.0.1:8642/health` im Container beziehungsweise
|
||||||
|
`http://<Unraid-IP>:9119` im Browser prüfen.
|
||||||
|
5. Falls sich Athenas VPN-Adresse geändert hat, in `config.yaml` und in allen
|
||||||
|
`profiles/*/config.yaml` die Router-Basis-URL anpassen.
|
||||||
|
|
||||||
## Manuelles Backup
|
## Manuelles Backup
|
||||||
|
|
||||||
|
|||||||
Reference in New Issue
Block a user