Athena AI

Ein reproduzierbarer Docker-Stack für Athenas lokale KI. Athena stellt Router, llama.cpp-Profile, OpenWebUI, Sprache und Bildgenerierung bereit. Der offizielle Hermes Agent und die portablen Werkzeuge laufen auf Unraid und werden dort zusammen mit dem übrigen Appdata gesichert.

Aufbau

  • compose.yaml ist der einzige Einstieg für die KI-Dienste auf Athena.
  • Genau ein llama.cpp-Profil ist aktiv. Der Router schaltet zwischen Fast, Medium, Large, Ultra und Uncensored.
  • Ein unabhängiges Qwen3.5-4B-Testmodell kann auf der RTX 3060 über http://192.168.1.212:8099/v1 gezielt gestartet werden. Es ist ein standardmäßig gestoppter, optionaler Benchmark-Endpunkt und ausdrücklich nicht global für Hermes-Kompression aktiviert: technische End-to-End-Tests zeigten trotz hoher Gesamttreue ausgelassene ältere KEY=value-Zustände. Produktive Kompression übernimmt das jeweils gewählte 27B-Hauptprofil.
  • Der Athena Operator bleibt als einziger hostgebundener administrativer MCP direkt auf Athena. MCPHub veröffentlicht seinen vorhandenen WireGuard-HTTP-Endpunkt zentral unter /mcp/athena-operator; es gibt keinen zweiten Operator und keine administrative SSH-Implementierung im Hub.
  • Home Assistant, ARR, Unraid, Navidrome, Deemix und GitHub laufen gemeinsam im MCPHub-Container auf Unraid, bleiben aber als getrennte MCP-Server unter /mcp/NAME sichtbar, abschaltbar und unabhängig für Clients freigebbar.
  • SearXNG/TinySearch dürfen als eigene Such-Backends laufen. Der eigentliche Web-MCP-Adapter zieht ebenfalls in den MCPHub, sobald der Backend-Pfad aus dem Unraid-Netz verfügbar ist.
  • config/mcp-registry.json ist die einzige Liste der MCPs für Hermes und OpenWebUI. platform/mcp/sync-clients.py erzeugt beide Registrierungen.
  • Modelle und Athena-Backups liegen auf /data. Hermes liegt vollständig unter /mnt/nvme-storage/appdata/Hermes-Agent; MCPHub-Zustand, Client-Schlüssel und MCP-Zugänge liegen unter /mnt/nvme-storage/appdata/MCPHub.
  • Hermes verwendet unverändert nousresearch/hermes-agent:latest. Seine Profile erreichen Athenas Router über http://192.168.1.212:8081/v1. Die frühere Athena-Instanz bleibt vorerst gestoppt als Rückfall erhalten.
  • KI-Oberflächen und APIs sind nur über WireGuard erreichbar.

Installation – ein Befehl

Nach dem Ausfüllen von config/install.env:

sudo ./install.sh --config config/install.env

Das Skript installiert Docker und NVIDIA-Unterstützung, lädt die konfigurierten Modelle, baut den Stack und startet die benötigten Profile und MCPs.

Bedienung

# Gesamten Stack anzeigen
docker compose --env-file /etc/mike-ai/stack.env ps

# Eine gezielte Athena-Komponente ausrollen
docker compose --env-file /etc/mike-ai/stack.env up -d --build router

# Sofortiges Datenbackup zusätzlich zum Fünf-Stunden-Zeitplan
docker exec mike-ai-backup backup

OpenWebUI: http://<WireGuard-IP>:8080

Router-API: http://<WireGuard-IP>:8081/v1

Hermes-Dashboard: http://<Unraid-IP>:9119

Hermes-API: http://<Unraid-IP>:8642

Wiederherstellung – ein Befehl

Nach einer frischen Installation und eingehängtem /data:

sudo ./restore.sh /data/docker-backups/athena-latest.tar.gz

Details, Prüfschritte und der exakte Sicherungsumfang stehen in docs/RECOVERY.md.

Dokumentation

Die MCPHub-Installation, Endpunkte und der schrittweise Rückbau der alten Athena-MCPs stehen in platform/mcphub/README.md. Für Installation oder Wiederherstellung des Hermes-Gateways auf Unraid liegt unter config/unraid-templates/my-Hermes-Agent-Official.xml ein DockerMan-Template, das unverändert das offizielle Nous-Image verwendet.

Git enthält keine Secrets, Chatdaten oder Modellgewichte.

S
Description
No description provided
Readme
8.6 MiB
Languages
Python 77.5%
Shell 17%
TypeScript 1.9%
Dockerfile 1.4%
Jinja 1.4%
Other 0.7%