Athena AI

Ein reproduzierbarer Docker-Stack für Athenas lokale Inferenz. Athena stellt Router, llama.cpp-Profile, Sprache und Bildgenerierung bereit. Der offizielle Hermes Agent und MCPHub laufen auf Unraid und werden dort mit Appdata gesichert.

Aufbau

• compose.yaml ist der einzige Einstieg für die KI-Dienste auf Athena.
• Genau ein llama.cpp-Profil ist aktiv. Der Router schaltet zwischen Fast, Medium, Large, Ultra und Uncensored.
• Hermes verdichtet ältere Assistenten- und Werkzeug-Turns fortlaufend per Micro-Compaction (alle fünf abgeschlossenen Turns). Das jeweils gewählte 27B-Hauptprofil erstellt die Zusammenfassung; ein separates, weniger zuverlässiges Kompressionsmodell wird nicht betrieben.
• Der Athena Operator bleibt als einziger hostgebundener administrativer MCP direkt auf Athena. MCPHub veröffentlicht seinen vorhandenen WireGuard-HTTP-Endpunkt zentral unter /mcp/athena-operator; es gibt keinen zweiten Operator und keine administrative SSH-Implementierung im Hub.
• Home Assistant, ARR, Unraid, Navidrome, Deemix und GitHub laufen gemeinsam im MCPHub-Container auf Unraid, bleiben aber als getrennte MCP-Server unter /mcp/NAME sichtbar, abschaltbar und unabhängig für Clients freigebbar.
• Hermes verwendet für allgemeine Recherche den eingebauten schlüssellosen Keenable-Provider für Suche und Seitenabruf; der frühere Athena-Webadapter wird nicht mehr gestartet.
• MCPHubs eigene persistente Einstellungen unter MCPHub/mcp_settings.json sind der produktive Zustand. Oberfläche und offizielle API ändern genau diese Datei; Container-Updates überschreiben sie nicht. config/mcp-registry.json ist nur der Neuinstallations-Seed.
• Hermes verbindet sich einmal mit MCPHubs gemeinsamem /mcp-Endpunkt. Neue aktivierte Server erscheinen dadurch nach MCP neu laden, ohne dass pro MCP eine weitere Hermes-Konfiguration geschrieben werden muss.
• Modelle und Athena-Backups liegen auf /data. Hermes liegt vollständig unter /mnt/nvme-storage/appdata/Hermes-Agent; MCPHub-Zustand, Client-Schlüssel und MCP-Zugänge liegen unter /mnt/nvme-storage/appdata/MCPHub.
• Hermes verwendet unverändert nousresearch/hermes-agent:latest. Seine Profile erreichen Athenas Router über http://192.168.1.212:8081/v1. Die frühere Athena-Instanz bleibt vorerst gestoppt als Rückfall erhalten.
• KI-Oberflächen und APIs sind nur über WireGuard erreichbar.

Installation – ein Befehl

Nach dem Ausfüllen von config/install.env:

sudo ./install.sh --config config/install.env

Das Skript installiert Docker und NVIDIA-Unterstützung, lädt die konfigurierten Modelle und startet ausschließlich Athenas Inferenz-Kern plus Operator.

Bedienung

# Gesamten Stack anzeigen
docker compose --env-file /etc/mike-ai/stack.env ps

# Erst anzeigen, dann eine gezielte Komponente ohne Nebenwirkungen ausrollen
./manage.sh --dry-run deploy router
./manage.sh deploy router

# Sofortiges Datenbackup zusätzlich zum Fünf-Stunden-Zeitplan
docker exec mike-ai-backup backup

# Kurzer read-only Ende-zu-Ende-Test nach jedem Release
sudo ./smoke-test.sh

Router-API: http://<WireGuard-IP>:8081/v1

Hermes-Dashboard: http://<Unraid-IP>:9119

Hermes-API: http://<Unraid-IP>:8642

Wiederherstellung – ein Befehl

Nach einer frischen Installation und eingehängtem /data:

sudo ./restore.sh /data/docker-backups/athena-latest.tar.gz

Details, Prüfschritte und der exakte Sicherungsumfang stehen in docs/RECOVERY.md.

Dokumentation

• ATHENA.md – kurze Maschinen- und Operatoranleitung
• docs/STANDARD_PROFILE_MATRIX.md – Profile und Messwerte
• docs/MCP_SERVERS.md – automatisch erzeugte MCP-Liste
• docs/RECOVERY.md – Backup und Neuaufbau

Die MCPHub-Installation, Endpunkte und der schrittweise Rückbau der alten Athena-MCPs stehen in platform/mcphub/README.md. Für Installation oder Wiederherstellung des Hermes-Gateways auf Unraid liegt unter config/unraid-templates/my-Hermes-Agent-Official.xml ein DockerMan-Template, das unverändert das offizielle Nous-Image verwendet.

Git enthält keine Secrets, Chatdaten oder Modellgewichte.