Athena AI

Ein reproduzierbarer Docker-Stack für Athenas lokale Inferenz. Athena stellt Router, llama.cpp-Profile, Sprache und Bildgenerierung bereit. Der offizielle Hermes Agent und MCPHub laufen auf Unraid und werden dort mit Appdata gesichert.

Aufbau

compose.yaml ist der einzige Einstieg für die KI-Dienste auf Athena.
Genau ein llama.cpp-Profil ist aktiv. Der Router schaltet zwischen Fast, Medium, Large, Ultra und Uncensored.
Hermes verdichtet ältere Assistenten- und Werkzeug-Turns fortlaufend per Micro-Compaction (alle fünf abgeschlossenen Turns). Das jeweils gewählte 27B-Hauptprofil erstellt die Zusammenfassung; ein separates, weniger zuverlässiges Kompressionsmodell wird nicht betrieben.
Der Athena Operator bleibt als einziger hostgebundener administrativer MCP direkt auf Athena. MCPHub veröffentlicht seinen vorhandenen WireGuard-HTTP-Endpunkt zentral unter /mcp/athena-operator; es gibt keinen zweiten Operator und keine administrative SSH-Implementierung im Hub.
Home Assistant, ARR, Unraid, Navidrome, Deemix und GitHub laufen gemeinsam im MCPHub-Container auf Unraid, bleiben aber als getrennte MCP-Server unter /mcp/NAME sichtbar, abschaltbar und unabhängig für Clients freigebbar.
Hermes verwendet für allgemeine Recherche seine integrierten Webwerkzeuge; der frühere Athena-Webadapter wird nicht mehr gestartet.
config/mcp-registry.json ist die einzige Liste der MCPHub-Server und ihrer Client-Registrierungen. platform/mcp/sync-clients.py erzeugt Hermes daraus.
Modelle und Athena-Backups liegen auf /data. Hermes liegt vollständig unter /mnt/nvme-storage/appdata/Hermes-Agent; MCPHub-Zustand, Client-Schlüssel und MCP-Zugänge liegen unter /mnt/nvme-storage/appdata/MCPHub.
Hermes verwendet unverändert nousresearch/hermes-agent:latest. Seine Profile erreichen Athenas Router über http://192.168.1.212:8081/v1. Die frühere Athena-Instanz bleibt vorerst gestoppt als Rückfall erhalten.
KI-Oberflächen und APIs sind nur über WireGuard erreichbar.

Installation – ein Befehl

Nach dem Ausfüllen von config/install.env:

sudo ./install.sh --config config/install.env

Das Skript installiert Docker und NVIDIA-Unterstützung, lädt die konfigurierten Modelle und startet ausschließlich Athenas Inferenz-Kern plus Operator.

Bedienung

# Gesamten Stack anzeigen
docker compose --env-file /etc/mike-ai/stack.env ps

# Erst anzeigen, dann eine gezielte Komponente ohne Nebenwirkungen ausrollen
./manage.sh --dry-run deploy router
./manage.sh deploy router

# Sofortiges Datenbackup zusätzlich zum Fünf-Stunden-Zeitplan
docker exec mike-ai-backup backup

# Kurzer read-only Ende-zu-Ende-Test nach jedem Release
sudo ./smoke-test.sh

Router-API: http://<WireGuard-IP>:8081/v1

Hermes-Dashboard: http://<Unraid-IP>:9119

Hermes-API: http://<Unraid-IP>:8642

Wiederherstellung – ein Befehl

Nach einer frischen Installation und eingehängtem /data:

sudo ./restore.sh /data/docker-backups/athena-latest.tar.gz

Details, Prüfschritte und der exakte Sicherungsumfang stehen in docs/RECOVERY.md.

Dokumentation

ATHENA.md – kurze Maschinen- und Operatoranleitung
docs/STANDARD_PROFILE_MATRIX.md – Profile und Messwerte
docs/MCP_SERVERS.md – automatisch erzeugte MCP-Liste
docs/RECOVERY.md – Backup und Neuaufbau

Die MCPHub-Installation, Endpunkte und der schrittweise Rückbau der alten Athena-MCPs stehen in platform/mcphub/README.md. Für Installation oder Wiederherstellung des Hermes-Gateways auf Unraid liegt unter config/unraid-templates/my-Hermes-Agent-Official.xml ein DockerMan-Template, das unverändert das offizielle Nous-Image verwendet.

Git enthält keine Secrets, Chatdaten oder Modellgewichte.

3.9 KiB Raw Blame History Unescape Escape