Files
AI-Profile-Router/README.md
T

89 lines
3.6 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
# Athena AI
Ein reproduzierbarer Docker-Stack für Athenas lokale KI. Athena stellt Router,
llama.cpp-Profile, OpenWebUI, Sprache und Bildgenerierung bereit. Der offizielle
Hermes Agent und die portablen Werkzeuge laufen auf Unraid und werden dort
zusammen mit dem übrigen Appdata gesichert.
## Aufbau
- `compose.yaml` ist der einzige Einstieg für die KI-Dienste auf Athena.
- Genau ein llama.cpp-Profil ist aktiv. Der Router schaltet zwischen Fast,
Medium, Large, Ultra und Uncensored.
- Der **Athena Operator** bleibt als einziger hostgebundener administrativer
MCP direkt auf Athena. MCPHub veröffentlicht seinen vorhandenen
WireGuard-HTTP-Endpunkt zentral unter `/mcp/athena-operator`; es gibt keinen
zweiten Operator und keine administrative SSH-Implementierung im Hub.
- Home Assistant, ARR, Unraid, Navidrome, Deemix und GitHub laufen gemeinsam im
MCPHub-Container auf Unraid, bleiben aber als getrennte MCP-Server unter
`/mcp/NAME` sichtbar, abschaltbar und unabhängig für Clients freigebbar.
- SearXNG/TinySearch dürfen als eigene Such-Backends laufen. Der eigentliche
Web-MCP-Adapter zieht ebenfalls in den MCPHub, sobald der Backend-Pfad aus dem
Unraid-Netz verfügbar ist.
- `config/mcp-registry.json` ist die einzige Liste der MCPs für Hermes und
OpenWebUI. `platform/mcp/sync-clients.py` erzeugt beide Registrierungen.
- Modelle und Athena-Backups liegen auf `/data`. Hermes liegt vollständig unter
`/mnt/nvme-storage/appdata/Hermes-Agent`; MCPHub-Zustand, Client-Schlüssel und
MCP-Zugänge liegen unter `/mnt/nvme-storage/appdata/MCPHub`.
- Hermes verwendet unverändert `nousresearch/hermes-agent:latest`. Seine
Profile erreichen Athenas Router über `http://192.168.1.212:8081/v1`.
Die frühere Athena-Instanz bleibt vorerst gestoppt als Rückfall erhalten.
- KI-Oberflächen und APIs sind nur über WireGuard erreichbar.
## Installation – ein Befehl
Nach dem Ausfüllen von `config/install.env`:
```bash
sudo ./install.sh --config config/install.env
```
Das Skript installiert Docker und NVIDIA-Unterstützung, lädt die konfigurierten
Modelle, baut den Stack und startet die benötigten Profile und MCPs.
## Bedienung
```bash
# Gesamten Stack anzeigen
docker compose --env-file /etc/mike-ai/stack.env ps
# Eine gezielte Athena-Komponente ausrollen
docker compose --env-file /etc/mike-ai/stack.env up -d --build router
# Sofortiges Datenbackup zusätzlich zum Fünf-Stunden-Zeitplan
docker exec mike-ai-backup backup
```
OpenWebUI: `http://<WireGuard-IP>:8080`
Router-API: `http://<WireGuard-IP>:8081/v1`
Hermes-Dashboard: `http://<Unraid-IP>:9119`
Hermes-API: `http://<Unraid-IP>:8642`
## Wiederherstellung – ein Befehl
Nach einer frischen Installation und eingehängtem `/data`:
```bash
sudo ./restore.sh /data/docker-backups/athena-latest.tar.gz
```
Details, Prüfschritte und der exakte Sicherungsumfang stehen in
[`docs/RECOVERY.md`](docs/RECOVERY.md).
## Dokumentation
- [`ATHENA.md`](ATHENA.md) – kurze Maschinen- und Operatoranleitung
- [`docs/STANDARD_PROFILE_MATRIX.md`](docs/STANDARD_PROFILE_MATRIX.md) – Profile und Messwerte
- [`docs/RECOVERY.md`](docs/RECOVERY.md) – Backup und Neuaufbau
Die MCPHub-Installation, Endpunkte und der schrittweise Rückbau der alten
Athena-MCPs stehen in [`platform/mcphub/README.md`](platform/mcphub/README.md).
Für Installation oder Wiederherstellung des Hermes-Gateways auf Unraid liegt unter
[`config/unraid-templates/my-Hermes-Agent-Official.xml`](config/unraid-templates/my-Hermes-Agent-Official.xml)
ein DockerMan-Template, das unverändert das offizielle Nous-Image verwendet.
Git enthält keine Secrets, Chatdaten oder Modellgewichte.