AI-Profile-Router/ATHENA.md

Athena – Betriebsanleitung

Diese Datei ist der kurze, verbindliche Einstieg für Menschen und Agenten.

Rolle

Athena ist eine Inferenzmaschine, kein allgemeiner Anwendungsserver.

Sie betreibt:

• llama.cpp mit genau einem aktiven Qwen-Profil,
• den OpenAI-kompatiblen Profile Router,
• FLUX.2-klein-4B für Textbilder und Referenzbild-Bearbeitung,
• XTTS und Piper für Sprache,
• das Athena-Dashboard,
• Portainer CE als optionale Ansicht auf die laufenden Docker-Container,
• WireGuard-Gateway und Datenbackup,
• den hostgebundenen Athena-Operator.

Hermes, Benutzeroberfläche und portable Fach-MCPs laufen auf Unraid. Auf Athena werden keine zweiten Instanzen dieser Dienste angelegt.

Pfade

Pfad	Zweck
/opt/mike-ai/stack	kanonischer Checkout und Compose-Stack
/data/models	Modellgewichte
/data/llama-dashboard	historische Dashboard-Messwerte
/data/docker-backups	automatische Athena-Backups
/etc/mike-ai	lokale Konfiguration und Secrets, niemals Git

Portainer läuft als separater, optionaler Verwaltungscontainer mike-ai-portainer, teilt den Netzwerk-Namespace des WireGuard-Gateways und ist unter https://192.168.1.212:9443 erreichbar. Seine Einstellungen liegen im Docker-Volume portainer_data. Portainer beobachtet beziehungsweise verwaltet Docker, ist aber keine Abhängigkeit des Inferenz-Stacks.

Standardbefehle

cd /opt/mike-ai/stack
./manage.sh validate
./manage.sh deploy SERVICE
./manage.sh deploy core
sudo ./smoke-test.sh

deploy SERVICE verwendet --no-deps und fasst keine anderen Container an. deploy core aktualisiert den vollständigen Athena-Kern. Das aktuell aktive Qwen-Profil wird vom Profile Controller verwaltet.

Modelle

• Fast: kurze, interaktive Aufgaben
• Medium/Large/Ultra: steigende Kontextgrößen desselben lokalen Qwen-Modells
• Uncensored: separates lokales Profil
• FLUX.2-klein-4B: Bildgenerierung und Editing; Qwen wird dafür kurz entladen und danach automatisch wiederhergestellt
• XTTS: RTX 3060; Piper bleibt CPU-Fallback

Die verbindlichen Werte stehen in config/profile-matrix.json und docs/STANDARD_PROFILE_MATRIX.md.

Globale Modellrichtlinie

config/global-system-policy.txt wird vom Profile Router allen Textanfragen über /v1/chat/completions und /v1/responses vorangestellt. Sie gilt damit für alle Hermes-Profile und andere Clients, die den Athena-Router verwenden. Der Router liest die Datei bei jeder Anfrage neu; spätere Textänderungen benötigen nach der erstmaligen Bereitstellung keinen Container-Neustart. Clients außerhalb des Routers und Werkzeuge, die ein Frontend nicht anbietet, werden dadurch nicht erfasst.

Werkzeuge

Portable Werkzeuge gehören auf Unraid in eigene, per DockerMan verwaltete Container. Der einzige MCP auf Athena ist der Athena-Operator, weil nur er den Athena-Host verwalten muss. Neue Fach-MCPs werden nicht in diesen Stack eingebaut.

Sicherheitsgrenze

Ohne ausdrücklichen aktuellen Auftrag niemals Shutdown, Reboot, Kernel, Bootloader, Partitionen, Mounts, SSH, LAN, WireGuard oder Firewall ändern. Secrets dürfen lokal verwendet, aber nie in Git, Logs oder Chatantworten veröffentlicht werden.

Fertig bedeutet

• Änderung ist im kanonischen Git-Checkout,
• Compose und Syntax sind gültig,
• betroffener Dienst ist gesund,
• eine kleine Funktionsprobe war erfolgreich,
• Commit und Push sind erfolgt,
• das automatische Backup bleibt gesund.