105 lines
4.6 KiB
Markdown
105 lines
4.6 KiB
Markdown
# Athena AI
|
||
|
||
Ein reproduzierbarer Docker-Stack für Athenas lokale Inferenz. Athena stellt
|
||
Router, llama.cpp-Profile, Sprache und Bildgenerierung bereit. Der offizielle
|
||
Hermes Agent und MCPHub laufen auf Unraid und werden dort mit Appdata gesichert.
|
||
|
||
## Aufbau
|
||
|
||
- `compose.yaml` ist der einzige Einstieg für die KI-Dienste auf Athena.
|
||
- Genau ein llama.cpp-Profil ist aktiv. Der Router schaltet zwischen Fast,
|
||
Medium, Large, Ultra und Uncensored.
|
||
- Hermes verdichtet ältere Assistenten- und Werkzeug-Turns fortlaufend per
|
||
Micro-Compaction (alle fünf abgeschlossenen Turns). Das jeweils gewählte
|
||
27B-Hauptprofil erstellt die Zusammenfassung; ein separates, weniger
|
||
zuverlässiges Kompressionsmodell wird nicht betrieben.
|
||
- Der **Athena Operator** bleibt als einziger hostgebundener administrativer
|
||
MCP direkt auf Athena. MCPHub veröffentlicht seinen vorhandenen
|
||
WireGuard-HTTP-Endpunkt zentral unter `/mcp/athena-operator`; es gibt keinen
|
||
zweiten Operator und keine administrative SSH-Implementierung im Hub.
|
||
- Home Assistant, ARR, Unraid, Navidrome, Deemix und GitHub laufen gemeinsam im
|
||
MCPHub-Container auf Unraid, bleiben aber als getrennte MCP-Server unter
|
||
`/mcp/NAME` sichtbar, abschaltbar und unabhängig für Clients freigebbar.
|
||
- Hermes verwendet für allgemeine Recherche den eingebauten schlüssellosen
|
||
Keenable-Provider für Suche und Seitenabruf; der frühere Athena-Webadapter
|
||
wird nicht mehr gestartet.
|
||
- MCPHubs eigene persistente Einstellungen unter `MCPHub/mcp_settings.json`
|
||
sind der produktive Zustand. Oberfläche und offizielle API ändern genau
|
||
diese Datei; Container-Updates überschreiben sie nicht.
|
||
`config/mcp-registry.json` ist nur der Neuinstallations-Seed.
|
||
- Hermes verbindet sich einmal mit MCPHubs gefiltertem `/mcp/hermes`-Endpunkt. Neue
|
||
aktivierte Server erscheinen dadurch nach **MCP neu laden**, ohne dass pro
|
||
MCP eine weitere Hermes-Konfiguration geschrieben werden muss.
|
||
- Modelle und Athena-Backups liegen auf `/data`. Hermes liegt vollständig unter
|
||
`/mnt/nvme-storage/appdata/Hermes-Agent`; MCPHub-Zustand, Client-Schlüssel und
|
||
MCP-Zugänge liegen unter `/mnt/nvme-storage/appdata/MCPHub`.
|
||
- Hermes verwendet unverändert `nousresearch/hermes-agent:latest`. Seine
|
||
Profile erreichen Athenas Router über `http://192.168.1.212:8081/v1`.
|
||
Die frühere Athena-Instanz bleibt vorerst gestoppt als Rückfall erhalten.
|
||
- KI-Oberflächen und APIs sind nur über WireGuard erreichbar.
|
||
|
||
## Installation – ein Befehl
|
||
|
||
Nach dem Ausfüllen von `config/install.env`:
|
||
|
||
```bash
|
||
sudo ./install.sh --config config/install.env
|
||
```
|
||
|
||
Das Skript installiert Docker und NVIDIA-Unterstützung, lädt die konfigurierten
|
||
Modelle und startet ausschließlich Athenas Inferenz-Kern plus Operator.
|
||
|
||
## Bedienung
|
||
|
||
```bash
|
||
# Gesamten Stack anzeigen
|
||
docker compose --env-file /etc/mike-ai/stack.env ps
|
||
|
||
# Erst anzeigen, dann eine gezielte Komponente ohne Nebenwirkungen ausrollen
|
||
./manage.sh --dry-run deploy router
|
||
./manage.sh deploy router
|
||
|
||
# Sofortiges Datenbackup zusätzlich zum Fünf-Stunden-Zeitplan
|
||
docker exec mike-ai-backup backup
|
||
|
||
# Kurzer read-only Ende-zu-Ende-Test nach jedem Release
|
||
sudo ./smoke-test.sh
|
||
```
|
||
|
||
Router-API: `http://<WireGuard-IP>:8081/v1`
|
||
|
||
Hermes-Dashboard: `http://<Unraid-IP>:9119`
|
||
|
||
Hermes-API: `http://<Unraid-IP>:8642`
|
||
|
||
## Wiederherstellung – ein Befehl
|
||
|
||
Nach einer frischen Installation und eingehängtem `/data`:
|
||
|
||
```bash
|
||
sudo ./restore.sh /data/docker-backups/athena-latest.tar.gz
|
||
```
|
||
|
||
Details, Prüfschritte und der exakte Sicherungsumfang stehen in
|
||
[`docs/RECOVERY.md`](docs/RECOVERY.md).
|
||
|
||
## Dokumentation
|
||
|
||
- [`ATHENA.md`](ATHENA.md) – kurze Maschinen- und Operatoranleitung
|
||
- [`docs/STANDARD_PROFILE_MATRIX.md`](docs/STANDARD_PROFILE_MATRIX.md) – Profile und Messwerte
|
||
- [`docs/MCP_SERVERS.md`](docs/MCP_SERVERS.md) – automatisch erzeugte MCP-Liste
|
||
- [`docs/RECOVERY.md`](docs/RECOVERY.md) – Backup und Neuaufbau
|
||
|
||
Die MCPHub-Installation, Endpunkte und der schrittweise Rückbau der alten
|
||
Athena-MCPs stehen in [`platform/mcphub/README.md`](platform/mcphub/README.md).
|
||
Der eigenständig betreibbare Sonarr-/Radarr-Container einschließlich
|
||
Debian-Slim-Installer und Unraid-Template liegt unter
|
||
[`services/arr-mcp/`](services/arr-mcp/README.md). Er ist für die schrittweise
|
||
Ablösung des bisherigen MCPHub-Prozesses vorbereitet, wird durch Athenas
|
||
Standardinstallation aber nicht automatisch gestartet.
|
||
Für Installation oder Wiederherstellung des Hermes-Gateways auf Unraid liegt unter
|
||
[`config/unraid-templates/my-Hermes-Agent-Official.xml`](config/unraid-templates/my-Hermes-Agent-Official.xml)
|
||
ein DockerMan-Template, das unverändert das offizielle Nous-Image verwendet.
|
||
|
||
Git enthält keine Secrets, Chatdaten oder Modellgewichte.
|