71 lines
6.0 KiB
Markdown
71 lines
6.0 KiB
Markdown
# Athena-Leerhostaufbau – Praxisprotokoll
|
||
|
||
Dieses Protokoll hält die Abweichungen fest, die beim realen Neuaufbau auf
|
||
einem frischen Debian-13-Host sichtbar wurden. Jede dauerhaft notwendige
|
||
Korrektur muss zusätzlich im Installer, Restore-Skript oder in der regulären
|
||
Betriebsdokumentation umgesetzt werden. Das Protokoll enthält keine Secrets,
|
||
Chats oder privaten Nutzdaten.
|
||
|
||
## Zielsystem
|
||
|
||
- Hostname: `Athena`
|
||
- Betriebssystem: Debian 13 amd64
|
||
- Persistente Datenplatte: `/data`, ext4
|
||
- Haupt-GPU: NVIDIA RTX 5080 mit 16 GB VRAM
|
||
- Containerbetrieb: Docker CE und Compose-Plugin
|
||
- Inferenz: gepinnter llama.cpp-Build in Docker
|
||
- Oberfläche: OpenWebUI
|
||
- Werkzeuge: getrennte MCP-Container für Web, Home Assistant, ARR und Unraid
|
||
|
||
## Bereits eingearbeitete Korrekturen
|
||
|
||
| Bereich | Beobachtung im Leerhosttest | Dauerhafte Umsetzung |
|
||
|---|---|---|
|
||
| NVIDIA | Debian-Basispakete allein lieferten nicht den benötigten aktuellen Treiberzweig. | Offizielles NVIDIA-Repository, Mindestversion, Open-Kernelmodule und reproduzierbarer Neustartpfad im Installer. |
|
||
| CUDA | Container fanden einzelne CUDA-Kompatibilitätsbibliotheken nicht zuverlässig. | Bibliothekspfad und `ldconfig` werden vom Installer hergestellt und geprüft. |
|
||
| Modelle | Durch die restriktive Installer-Umask konnte der unprivilegierte Inferenzprozess GGUF-Dateien nicht lesen. | Nach erfolgreicher Hashprüfung werden Modelle unveränderlich, aber lesbar mit Modus `0444` gesetzt. |
|
||
| MTP | Das Fast-Modell besitzt den verwendeten MTP-Tensor bereits im IQ4-MIX-GGUF. | Kein redundanter Draft-Download und kein falscher separater Startparameter. |
|
||
| Router | Frische Volumes und der unmittelbar folgende API-Aufruf führten zu Ownership- beziehungsweise Start-Rennen. | Minimale Dateisystem-Capabilities, eigener Healthcheck, Abhängigkeit von gesundem Controller und explizite Readiness-Prüfung. |
|
||
| Installer | Ein erfolgreicher Containerstart wurde zu früh als erfolgreiche Installation gewertet. | Abschluss erst nach Router-Health, erfolgreicher Fast-Aktivierung und eindeutigem `INSTALL_READINESS_OK`-Marker. |
|
||
| Websuche | TinySearch/SearXNG wurden in mehreren Pfaden gestartet. | Websuche wird ausschließlich durch den Tool-Stack installiert und gestartet. |
|
||
| MCP | Altcontainer sollten nicht in die neue Architektur übernommen werden. | Neue, getrennte Tool-Container; Restore importiert nur freigegebene Secret- und Laufzeitdateien. |
|
||
| OpenWebUI | Eine gesicherte Datenbank war neuer als das zunächst gepinnte OpenWebUI-Image. | Datenbank und Image werden versionsgleich wiederhergestellt; Registry-Digest und OCI-Build-Revision werden geprüft. |
|
||
| Image-Backup | Das alte Archiv `openwebui-mcp-images.tar.gz` enthielt trotz seines Namens nicht das inventarisierte OpenWebUI-Image. | Restore nutzt als sicheren Fallback nur den gesicherten unveränderlichen Digest. Künftige Backups benötigen einen isolierten Probeimport. |
|
||
| Wiederholung | Ein späterer Installerlauf hätte die restaurierte OpenWebUI-Version wieder überschrieben. | Das Restore schreibt den geprüften lokalen Image-Tag auch in die dauerhafte Installationskonfiguration. |
|
||
| TinySearch-Volume | Das vom Installer vorbereitete Modellvolume wurde von Compose gleichzeitig als Compose-eigen behandelt. | Das Volume besitzt einen festen Namen und ist in Compose ausdrücklich als extern vorbereitet markiert. |
|
||
| Reasoning-Filter | Beide globalen Filter besaßen Priorität 0; bei gleicher Priorität entschied die ID-Sortierung statt der gewünschten Logik. | `Reasoning Default Off` läuft mit Priorität 10 sicher vor dem optionalen `Thinking`-Override mit Priorität 20. Filter und sicherer Installer liegen versioniert im Repository. |
|
||
| Folgefragen | OpenWebUI erzeugte nach Antworten zusätzliche Vorschläge und verbrauchte dafür einen weiteren Modellaufruf. | Folgefragengenerierung ist in der persistenten OpenWebUI-Konfiguration und im Compose-Standard deaktiviert. |
|
||
| Werkzeug-/Kontextschutz | Große MCP-Antworten und wiederholte identische Aufrufe konnten Kontextfenster sprengen beziehungsweise Tool-Schleifen erzeugen. | Globaler Stability Guard begrenzt Resultate, verdichtet alte Inhalte profilabhängig und stoppt Wiederholungen; JSON-Schemas und Bilder werden nicht beschädigt. |
|
||
| Leistungsdaten | Benchmarkdaten sollten sichtbar sein, ohne private Chat-Inhalte zu protokollieren. | Ein globaler Abschlussfilter schreibt ausschließlich technische Zahlen in eine lokal rotierende JSONL-Datei und zeigt eine knappe Statuszeile. |
|
||
| Antwortaktionen | Wiederkehrende Nachbearbeitungen sollten bewusst per Klick statt als permanenter Zusatzprompt laufen. | Eine versionierte globale Action bietet lokale Kurzfassung, Checkliste, Diagnose, Unsicherheits-/Quellenprüfung, Thinking-Verbesserung und Markdown-Kopie; keine Schreib- oder Profilwechselaktion. |
|
||
|
||
## Abnahmezustand am 21. August 2026
|
||
|
||
- Basisinstallation einschließlich Treiber, Docker, llama.cpp, Router und
|
||
Fast-Profil erfolgreich.
|
||
- Fast-Profil mit 76.800 Token Kontext gestartet und durch Readiness bestätigt.
|
||
- HA-, ARR-, Unraid- und Web-MCP als getrennte Container gestartet.
|
||
- OpenWebUI-Daten und freigegebene MCP-Konfiguration aus dem Referenzbackup
|
||
übernommen.
|
||
- Exakter OpenWebUI-Build anhand des gesicherten Registry-Digests und Commits
|
||
rekonstruiert.
|
||
- Vollständiger Restore ein zweites Mal erfolgreich und ohne Datenbankmigration
|
||
ausgeführt.
|
||
- OpenWebUI, Router und Fast-Inferenz sind gesund; HTTP-Zugriffe liefern Status
|
||
200 und der Router meldet `qwen-fast`, `qwen-medium` und `qwen-long`.
|
||
- Alle vier MCP-Endpunkte sind aus dem OpenWebUI-Netz per TCP erreichbar.
|
||
|
||
## Noch abzunehmen
|
||
|
||
1. Anmeldung und Profilwechsel über die Oberfläche ohne Lesen alter
|
||
Chat-Inhalte.
|
||
2. MCP-Protokolltest jedes Werkzeugs und Prüfung seiner Sicherheitsgrenze.
|
||
3. Neustarttest des gesamten Hosts.
|
||
4. WireGuard- und Fail-closed-Test am späteren Universitätsstandort.
|
||
5. Standardbenchmark mit RTX 5080 und anschließend mit der RTX 3060.
|
||
6. Push der lokalen Commits nach unabhängiger Prüfung des Git-Server-
|
||
Hostschlüssels.
|
||
|
||
Erst nach diesen Punkten gilt Athena als vollständig reproduzierbare
|
||
Referenzinstallation.
|