100 lines
3.6 KiB
Markdown
100 lines
3.6 KiB
Markdown
# Athena – Betriebsanleitung
|
||
|
||
Diese Datei ist der kurze, verbindliche Einstieg für Menschen und Agenten.
|
||
|
||
## Rolle
|
||
|
||
Athena ist eine Inferenzmaschine, kein allgemeiner Anwendungsserver.
|
||
|
||
Sie betreibt:
|
||
|
||
- llama.cpp mit genau einem aktiven Qwen-Profil,
|
||
- den OpenAI-kompatiblen Profile Router,
|
||
- FLUX.2-klein-4B für Textbilder und Referenzbild-Bearbeitung,
|
||
- Qwen3-TTS und Piper für Sprache,
|
||
- das Athena-Dashboard,
|
||
- Portainer CE als optionale Ansicht auf die laufenden Docker-Container,
|
||
- WireGuard-Gateway und Datenbackup,
|
||
- den hostgebundenen Athena-Operator.
|
||
|
||
Hermes, Benutzeroberfläche und portable Fach-MCPs laufen auf Unraid. Auf Athena
|
||
werden keine zweiten Instanzen dieser Dienste angelegt.
|
||
|
||
## Pfade
|
||
|
||
| Pfad | Zweck |
|
||
|---|---|
|
||
| `/opt/mike-ai/stack` | kanonischer Checkout und Compose-Stack |
|
||
| `/data/models` | Modellgewichte |
|
||
| `/data/llama-dashboard` | historische Dashboard-Messwerte |
|
||
| `/data/docker-backups` | automatische Athena-Backups |
|
||
| `/etc/mike-ai` | lokale Konfiguration und Secrets, niemals Git |
|
||
|
||
Portainer läuft als separater, optionaler Verwaltungscontainer
|
||
`mike-ai-portainer`, teilt den Netzwerk-Namespace des WireGuard-Gateways und
|
||
ist unter `https://192.168.1.212:9443` erreichbar. Seine Einstellungen liegen
|
||
im Docker-Volume `portainer_data`, das vom Athena-Backup mitgesichert wird.
|
||
Portainer beobachtet beziehungsweise
|
||
verwaltet Docker, ist aber keine Abhängigkeit des Inferenz-Stacks.
|
||
|
||
## Standardbefehle
|
||
|
||
```bash
|
||
cd /opt/mike-ai/stack
|
||
./manage.sh validate
|
||
./manage.sh deploy SERVICE
|
||
./manage.sh deploy core
|
||
sudo ./smoke-test.sh
|
||
```
|
||
|
||
`deploy SERVICE` verwendet `--no-deps` und fasst keine anderen Container an.
|
||
`deploy core` aktualisiert den vollständigen Athena-Kern. Das aktuell aktive
|
||
Qwen-Profil wird vom Profile Controller verwaltet.
|
||
|
||
## Modelle
|
||
|
||
- Fast: kurze, interaktive Aufgaben
|
||
- Medium/Large/Ultra: steigende Kontextgrößen desselben lokalen Qwen-Modells
|
||
- Uncensored: separates lokales Profil
|
||
- FLUX.2-klein-4B: Bildgenerierung und Editing; Qwen wird dafür kurz entladen und danach
|
||
automatisch wiederhergestellt
|
||
- Qwen3-TTS 1.7B: RTX 3060; Piper bleibt CPU-Fallback. Der Router reicht
|
||
zusätzlich natives 24-kHz-PCM für den optionalen Hermes-Streaming-Adapter
|
||
unter `integrations/hermes-qwen3-stream` durch.
|
||
|
||
Die verbindlichen Werte stehen in `config/profile-matrix.json` und
|
||
`docs/STANDARD_PROFILE_MATRIX.md`.
|
||
|
||
## Globale Modellrichtlinie
|
||
|
||
`config/global-system-policy.txt` wird vom Profile Router allen Textanfragen
|
||
über `/v1/chat/completions` und `/v1/responses` vorangestellt. Sie gilt damit
|
||
für alle Hermes-Profile und andere Clients, die den Athena-Router verwenden.
|
||
Der Router liest die Datei bei jeder Anfrage neu; spätere Textänderungen
|
||
benötigen nach der erstmaligen Bereitstellung keinen Container-Neustart.
|
||
Clients außerhalb des Routers und Werkzeuge, die ein Frontend nicht anbietet,
|
||
werden dadurch nicht erfasst.
|
||
|
||
## Werkzeuge
|
||
|
||
Portable Werkzeuge gehören auf Unraid in eigene, per DockerMan verwaltete
|
||
Container. Der einzige MCP auf Athena ist der Athena-Operator, weil nur er den
|
||
Athena-Host verwalten muss. Neue Fach-MCPs werden nicht in diesen Stack
|
||
eingebaut.
|
||
|
||
## Sicherheitsgrenze
|
||
|
||
Ohne ausdrücklichen aktuellen Auftrag niemals Shutdown, Reboot, Kernel,
|
||
Bootloader, Partitionen, Mounts, SSH, LAN, WireGuard oder Firewall ändern.
|
||
Secrets dürfen lokal verwendet, aber nie in Git, Logs oder Chatantworten
|
||
veröffentlicht werden.
|
||
|
||
## Fertig bedeutet
|
||
|
||
- Änderung ist im kanonischen Git-Checkout,
|
||
- Compose und Syntax sind gültig,
|
||
- betroffener Dienst ist gesund,
|
||
- eine kleine Funktionsprobe war erfolgreich,
|
||
- Commit und Push sind erfolgt,
|
||
- das automatische Backup bleibt gesund.
|