Athena – Betriebsanleitung

Diese Datei ist der kurze, verbindliche Einstieg für Menschen und Agenten.

Rolle

Athena ist eine Inferenzmaschine, kein allgemeiner Anwendungsserver.

Sie betreibt:

llama.cpp mit genau einem aktiven Qwen-Profil,
den OpenAI-kompatiblen Profile Router,
FLUX.2 Klein 9B FP8 Beta für Textbilder und Referenzbild-Bearbeitung,
Qwen3-TTS und Piper für Sprache,
das Athena-Dashboard,
Portainer CE als optionale Ansicht auf die laufenden Docker-Container,
WireGuard-Gateway und Datenbackup,
den hostgebundenen Athena-Operator.

Hermes, Benutzeroberfläche und portable Fach-MCPs laufen auf Unraid. Auf Athena werden keine zweiten Instanzen dieser Dienste angelegt.

Pfade

Pfad	Zweck
`/opt/mike-ai/stack`	kanonischer Checkout und Compose-Stack
`/data/models`	Modellgewichte
`/data/llama-dashboard`	historische Dashboard-Messwerte
`/data/docker-backups`	automatische Athena-Backups
`/etc/mike-ai`	lokale Konfiguration und Secrets, niemals Git

Portainer läuft als separater, optionaler Verwaltungscontainer mike-ai-portainer im internen Frontend-Netz und ist ausschließlich über den namensbasierten Proxy des WireGuard-Gateways unter https://192.168.1.212:9443 erreichbar. Das Dashboard verwendet denselben stabilen Aufbau auf Port 8099. Beide teilen ausdrücklich nicht den Netzwerk-Namespace des Gateway-Containers: Ein Recreate des Gateways kann sie dadurch nicht mehr in einem veralteten Namespace zurücklassen. Portainers Einstellungen liegen im Docker-Volume portainer_data, das vom Athena-Backup mitgesichert wird. Portainer beobachtet beziehungsweise verwaltet Docker, ist aber keine Abhängigkeit des Inferenz-Stacks.

Standardbefehle

cd /opt/mike-ai/stack
./manage.sh validate
./manage.sh deploy SERVICE
./manage.sh deploy core
sudo ./smoke-test.sh

deploy SERVICE verwendet --no-deps und fasst keine anderen Container an. deploy core aktualisiert den vollständigen Athena-Kern. Das aktuell aktive Qwen-Profil wird vom Profile Controller verwaltet.

Modelle

Fast: kurze, interaktive Aufgaben
Medium/Large/Ultra: steigende Kontextgrößen desselben lokalen Qwen-Modells
Uncensored: separates lokales Profil
FLUX.2 Klein 9B FP8 Beta: Der Transformer läuft auf der RTX 5080, der Qwen3-8B-NF4-Textencoder vorübergehend auf der RTX 3060. Das aktive llama.cpp-Profil und Qwen3-TTS werden dafür gestoppt und danach automatisch wiederhergestellt. Die Beta arbeitet mit 1024 × 1024 Pixeln, vier Schritten und Guidance 1,0.
Qwen3-TTS 1.7B: RTX 3060; Piper bleibt CPU-Fallback. Der Router reicht zusätzlich natives 24-kHz-PCM für den optionalen Hermes-Streaming-Adapter unter integrations/hermes-qwen3-stream durch.

Die verbindlichen Werte stehen in config/profile-matrix.json und docs/STANDARD_PROFILE_MATRIX.md.

Globale Modellrichtlinie

config/global-system-policy.txt wird vom Profile Router allen Textanfragen über /v1/chat/completions und /v1/responses vorangestellt. Sie gilt damit für alle Hermes-Profile und andere Clients, die den Athena-Router verwenden. Der Router liest die Datei bei jeder Anfrage neu; spätere Textänderungen benötigen nach der erstmaligen Bereitstellung keinen Container-Neustart. Clients außerhalb des Routers und Werkzeuge, die ein Frontend nicht anbietet, werden dadurch nicht erfasst.

Werkzeuge

Portable Werkzeuge gehören auf Unraid in eigene, per DockerMan verwaltete Container. Der einzige MCP auf Athena ist der Athena-Operator, weil nur er den Athena-Host verwalten muss. Neue Fach-MCPs werden nicht in diesen Stack eingebaut.

Sicherheitsgrenze

Ohne ausdrücklichen aktuellen Auftrag niemals Shutdown, Reboot, Kernel, Bootloader, Partitionen, Mounts, SSH, LAN, WireGuard oder Firewall ändern. Secrets dürfen lokal verwendet, aber nie in Git, Logs oder Chatantworten veröffentlicht werden.

Fertig bedeutet

Änderung ist im kanonischen Git-Checkout,
Compose und Syntax sind gültig,
betroffener Dienst ist gesund,
eine kleine Funktionsprobe war erfolgreich,
Commit und Push sind erfolgt,
das automatische Backup bleibt gesund.

4.1 KiB Raw Blame History Unescape Escape