94 lines
3.9 KiB
Markdown
94 lines
3.9 KiB
Markdown
# Athena AI
|
||
|
||
Ein reproduzierbarer Docker-Stack für Athenas lokale Inferenz. Athena stellt
|
||
Router, llama.cpp-Profile, Sprache und Bildgenerierung bereit. Der offizielle
|
||
Hermes Agent und MCPHub laufen auf Unraid und werden dort mit Appdata gesichert.
|
||
|
||
## Aufbau
|
||
|
||
- `compose.yaml` ist der einzige Einstieg für die KI-Dienste auf Athena.
|
||
- Genau ein llama.cpp-Profil ist aktiv. Der Router schaltet zwischen Fast,
|
||
Medium, Large, Ultra und Uncensored.
|
||
- Hermes verdichtet ältere Assistenten- und Werkzeug-Turns fortlaufend per
|
||
Micro-Compaction (alle fünf abgeschlossenen Turns). Das jeweils gewählte
|
||
27B-Hauptprofil erstellt die Zusammenfassung; ein separates, weniger
|
||
zuverlässiges Kompressionsmodell wird nicht betrieben.
|
||
- Der **Athena Operator** bleibt als einziger hostgebundener administrativer
|
||
MCP direkt auf Athena. MCPHub veröffentlicht seinen vorhandenen
|
||
WireGuard-HTTP-Endpunkt zentral unter `/mcp/athena-operator`; es gibt keinen
|
||
zweiten Operator und keine administrative SSH-Implementierung im Hub.
|
||
- Home Assistant, ARR, Unraid, Navidrome, Deemix und GitHub laufen gemeinsam im
|
||
MCPHub-Container auf Unraid, bleiben aber als getrennte MCP-Server unter
|
||
`/mcp/NAME` sichtbar, abschaltbar und unabhängig für Clients freigebbar.
|
||
- Hermes verwendet für allgemeine Recherche seine integrierten Webwerkzeuge;
|
||
der frühere Athena-Webadapter wird nicht mehr gestartet.
|
||
- `config/mcp-registry.json` ist die einzige Liste der MCPHub-Server und ihrer
|
||
Client-Registrierungen. `platform/mcp/sync-clients.py` erzeugt Hermes daraus.
|
||
- Modelle und Athena-Backups liegen auf `/data`. Hermes liegt vollständig unter
|
||
`/mnt/nvme-storage/appdata/Hermes-Agent`; MCPHub-Zustand, Client-Schlüssel und
|
||
MCP-Zugänge liegen unter `/mnt/nvme-storage/appdata/MCPHub`.
|
||
- Hermes verwendet unverändert `nousresearch/hermes-agent:latest`. Seine
|
||
Profile erreichen Athenas Router über `http://192.168.1.212:8081/v1`.
|
||
Die frühere Athena-Instanz bleibt vorerst gestoppt als Rückfall erhalten.
|
||
- KI-Oberflächen und APIs sind nur über WireGuard erreichbar.
|
||
|
||
## Installation – ein Befehl
|
||
|
||
Nach dem Ausfüllen von `config/install.env`:
|
||
|
||
```bash
|
||
sudo ./install.sh --config config/install.env
|
||
```
|
||
|
||
Das Skript installiert Docker und NVIDIA-Unterstützung, lädt die konfigurierten
|
||
Modelle und startet ausschließlich Athenas Inferenz-Kern plus Operator.
|
||
|
||
## Bedienung
|
||
|
||
```bash
|
||
# Gesamten Stack anzeigen
|
||
docker compose --env-file /etc/mike-ai/stack.env ps
|
||
|
||
# Erst anzeigen, dann eine gezielte Komponente ohne Nebenwirkungen ausrollen
|
||
./manage.sh --dry-run deploy router
|
||
./manage.sh deploy router
|
||
|
||
# Sofortiges Datenbackup zusätzlich zum Fünf-Stunden-Zeitplan
|
||
docker exec mike-ai-backup backup
|
||
|
||
# Kurzer read-only Ende-zu-Ende-Test nach jedem Release
|
||
sudo ./smoke-test.sh
|
||
```
|
||
|
||
Router-API: `http://<WireGuard-IP>:8081/v1`
|
||
|
||
Hermes-Dashboard: `http://<Unraid-IP>:9119`
|
||
|
||
Hermes-API: `http://<Unraid-IP>:8642`
|
||
|
||
## Wiederherstellung – ein Befehl
|
||
|
||
Nach einer frischen Installation und eingehängtem `/data`:
|
||
|
||
```bash
|
||
sudo ./restore.sh /data/docker-backups/athena-latest.tar.gz
|
||
```
|
||
|
||
Details, Prüfschritte und der exakte Sicherungsumfang stehen in
|
||
[`docs/RECOVERY.md`](docs/RECOVERY.md).
|
||
|
||
## Dokumentation
|
||
|
||
- [`ATHENA.md`](ATHENA.md) – kurze Maschinen- und Operatoranleitung
|
||
- [`docs/STANDARD_PROFILE_MATRIX.md`](docs/STANDARD_PROFILE_MATRIX.md) – Profile und Messwerte
|
||
- [`docs/MCP_SERVERS.md`](docs/MCP_SERVERS.md) – automatisch erzeugte MCP-Liste
|
||
- [`docs/RECOVERY.md`](docs/RECOVERY.md) – Backup und Neuaufbau
|
||
|
||
Die MCPHub-Installation, Endpunkte und der schrittweise Rückbau der alten
|
||
Athena-MCPs stehen in [`platform/mcphub/README.md`](platform/mcphub/README.md).
|
||
Für Installation oder Wiederherstellung des Hermes-Gateways auf Unraid liegt unter
|
||
[`config/unraid-templates/my-Hermes-Agent-Official.xml`](config/unraid-templates/my-Hermes-Agent-Official.xml)
|
||
ein DockerMan-Template, das unverändert das offizielle Nous-Image verwendet.
|
||
|
||
Git enthält keine Secrets, Chatdaten oder Modellgewichte.
|