Files
AI-Profile-Router/README.md
T

83 lines
3.2 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
# Athena AI
Ein reproduzierbarer Docker-Stack für Athenas lokale KI. Athena stellt Router,
llama.cpp-Profile, OpenWebUI, Hermes, Sprache und Bildgenerierung bereit. Die
portablen Werkzeuge laufen zentral im MCPHub auf Unraid und werden dort zusammen
mit dem übrigen Appdata gesichert.
## Aufbau
- `compose.yaml` ist der einzige Einstieg für die KI-Dienste auf Athena.
- Genau ein llama.cpp-Profil ist aktiv. Der Router schaltet zwischen Fast,
Medium, Large, Ultra und Uncensored.
- Der **Athena Operator** bleibt während der Migration der einzige
hostgebundene administrative MCP. Er wird anschließend durch einen
SSH-basierten Operator im MCPHub ersetzt.
- Home Assistant, ARR, Unraid, Navidrome, Deemix und GitHub laufen gemeinsam im
MCPHub-Container auf Unraid, bleiben aber als getrennte MCP-Server unter
`/mcp/NAME` sichtbar, abschaltbar und unabhängig für Clients freigebbar.
- SearXNG/TinySearch dürfen als eigene Such-Backends laufen. Der eigentliche
Web-MCP-Adapter zieht ebenfalls in den MCPHub, sobald der Backend-Pfad aus dem
Unraid-Netz verfügbar ist.
- `config/mcp-registry.json` ist die einzige Liste der MCPs für Hermes und
OpenWebUI. `platform/mcp/sync-clients.py` erzeugt beide Registrierungen.
- Modelle, Hermes-Daten und Athena-Backups liegen auf `/data`. MCPHub-Zustand,
Client-Schlüssel und MCP-Zugänge liegen im Unraid-Appdata-Verzeichnis
`/mnt/nvme-storage/appdata/MCPHub`.
- KI-Oberflächen und APIs sind nur über WireGuard erreichbar.
## Installation – ein Befehl
Nach dem Ausfüllen von `config/install.env`:
```bash
sudo ./install.sh --config config/install.env
```
Das Skript installiert Docker und NVIDIA-Unterstützung, lädt die konfigurierten
Modelle, baut den Stack und startet die benötigten Profile und MCPs.
## Bedienung
```bash
# Gesamten Stack anzeigen
docker compose --env-file /etc/mike-ai/stack.env ps
# Eine gezielte Athena-Komponente ausrollen
docker compose --env-file /etc/mike-ai/stack.env up -d --build router
# Sofortiges Datenbackup zusätzlich zum Fünf-Stunden-Zeitplan
docker exec mike-ai-backup backup
```
OpenWebUI: `http://<WireGuard-IP>:8080`
Router-API: `http://<WireGuard-IP>:8081/v1`
Hermes: `http://<WireGuard-IP>:9119`
## Wiederherstellung – ein Befehl
Nach einer frischen Installation und eingehängtem `/data`:
```bash
sudo ./restore.sh /data/docker-backups/athena-latest.tar.gz
```
Details, Prüfschritte und der exakte Sicherungsumfang stehen in
[`docs/RECOVERY.md`](docs/RECOVERY.md).
## Dokumentation
- [`ATHENA.md`](ATHENA.md) – kurze Maschinen- und Operatoranleitung
- [`docs/STANDARD_PROFILE_MATRIX.md`](docs/STANDARD_PROFILE_MATRIX.md) – Profile und Messwerte
- [`docs/RECOVERY.md`](docs/RECOVERY.md) – Backup und Neuaufbau
Die MCPHub-Installation, Endpunkte und der schrittweise Rückbau der alten
Athena-MCPs stehen in [`platform/mcphub/README.md`](platform/mcphub/README.md).
Für eine spätere Verlagerung des Hermes-Gateways auf Unraid liegt unter
[`config/unraid-templates/my-Hermes-Agent-Official.xml`](config/unraid-templates/my-Hermes-Agent-Official.xml)
ein DockerMan-Template, das unverändert das offizielle Nous-Image verwendet.
Git enthält keine Secrets, Chatdaten oder Modellgewichte.