diff --git a/README.md b/README.md
index e7b2c22..4c7c09f 100644
--- a/README.md
+++ b/README.md
@@ -13,9 +13,11 @@ Vorhandenes Docker wird vorausgesetzt; produktive Dienste werden nicht veränder
## Neu: Modellverwaltung und llama.cpp-Einstellungen
-Katalog, Bibliothek, Profilentwürfe und eine Laufzeit-/Update-Ansicht sind als
-bedienbarer GUI-Prototyp vorhanden. Entwürfe bleiben im Browser; Modellstarts,
-Katalog, Datei-Downloads und llama.cpp-Buildverwaltung sind live. Modellstarts sind noch nicht angebunden; siehe DEVELOPMENT.md. Details: [GUI-Prototyp](STUDIO.md).
+Katalog, Datei-Downloads, Bibliothek, serverseitig gespeicherte Profile und
+llama.cpp-Buildverwaltung sind live. Der Download-Reiter erlaubt das Ausblenden
+abgeschlossener Einträge ohne Dateiverlust. Entdecken zeigt Größen und eine
+konservative Gewichts-Speicherprüfung; noch keine vollständige Laufzeitprognose.
+Modellstarts sind noch nicht angebunden. Details: [Modellverwaltung](STUDIO.md).
## Zugang und API-Token
@@ -85,7 +87,7 @@ Keine Historie und kein Hintergrund-Collector bei geschlossener Hardware-Seite.
- `test_server.py`: Prozess-Lebenszyklus, Kontrollgrenzen, Hardware-Ausfall.
Sprachmodelle/Chat, Bildgenerierung, Audio und Video besitzen jetzt eine
-GUI-Vorschau; Weitere Dienste bleibt Platzhalter. Keine Downloads, Installation, Presets, Chats oder Modellwechsel.
+gemeinsame Modellverwaltung; Weitere Dienste bleibt Platzhalter. Downloads und Profile sind aktiv, Chats und Modellwechsel noch nicht.
Spätere Modellprofile und native llama.cpp-Worker sollten eigene Service-Adapter
mit derselben Status-/Start-/Stopp-Trennung erhalten. Noch kein Worker-Registry,
Scheduler oder produktionsreifer Worker-Supervisor. Die optionale Server-Instanz
diff --git a/STUDIO.md b/STUDIO.md
index 57d93a4..17deea5 100644
--- a/STUDIO.md
+++ b/STUDIO.md
@@ -1,103 +1,52 @@
-# Stand Laufzeitverwaltung
+# Modellverwaltung in Athena Deck
-llama.cpp-Prüfung, Releases, Builds, Abbruch und Standard-/Rückfallauswahl sind
-jetzt live. Kein manuelles VRAM-Reservefeld mehr. Modellbezogene Prognosen verwenden die lesend eingebundenen alten Routermodelle
-und llama-fit-params; ein Modellstart erfolgt nicht. Die folgenden
-0.4/0.5-Beschreibungen der Laufzeitansicht sind historisch.
+## Serverprofile, Downloads und Größen (2026-09-28)
-# Stand 0.5
+Profile sind jetzt echte, serverseitig persistierte Konfigurationen in
+`state/profiles.json`. Die Bibliothek bietet „Profil anlegen“ für heruntergeladene
+Gewichtsdateien. Alle vier Bereiche unterstützen Anlegen, Bearbeiten und
+Duplizieren. Namen sind global eindeutig; Änderungen werden anhand einer
+Revisionsnummer gegen versehentliches Überschreiben geprüft. Frühere lokale
+Browserentwürfe werden weder gelöscht noch automatisch als echte Profile importiert.
-Katalog und Datei-Downloads sind jetzt live. Die folgende Beschreibung der
-Katalogbeispiele ist historisch (0.4). Aktuelle API und Grenzen: DEVELOPMENT.md.
-Profile und Laufzeitsteuerung bleiben Entwürfe.
+Bildprofile speichern Auflösung, Schritte, Seed und Guidance. Chatprofile
+speichern Kontextbudget, Slots, Threads, Batch und Microbatch; Audio derzeit
+Sprechgeschwindigkeit, Video Auflösung, Frames, FPS, Schritte und Seed.
+Ein Profil startet noch keinen Worker. Fehlende Laufzeiten und bei Qwen-Image-2.1
+Textencoder/VAE werden angezeigt. Auf Wunsch des Betreibers werden in diesem
+Schritt keine Bildlaufzeiten oder Zusatzmodelle installiert.
-# Modellverwaltung und llama.cpp · GUI-Prototyp 0.4
+Der Reiter Downloads zeigt die persistierte Downloadhistorie (`models/downloads.json`).
+„Aus Liste entfernen“ blendet ausschließlich einen beendeten Eintrag aus, auch
+über Neustarts hinweg. Es löscht keine Modelldatei und keinen Bibliothekseintrag.
+Bestehende Bibliotheksdateien werden einmalig als abgeschlossene Downloads übernommen.
+Unterbrochene Downloads bleiben erkennbar; noch kein Fortsetzen/Resume.
+Abgeschlossene Downloads belegen nicht mehr dauerhaft die Entdecken-Ansicht.
-Diese Erweiterung ist ausdrücklich rein optisch und lokal bedienbar. Keine
-Modelldateien, Laufzeiten, Downloads, Builds oder produktiven Dienste werden verändert.
+Entdecken lädt Dateigrößen mit zwei parallelen Metadatenanfragen nach. Angaben
+stammen aus Hugging Face und werden fünf Minuten gecacht (maximal 64 Repositories).
+Die Übersicht bevorzugt GGUF-Hauptgewichte, schließt erkennbare Encoder/VAE/LoRA-
+Dateien aus und summiert vollständig vorhandene Shards einer Variante.
+Die angegebene Spanne enthält keine zusätzlichen Pipeline-Komponenten.
-## Ansichten
+Die Speicherprüfung ist bewusst eine **Untergrenze für Gewichte**, keine vollständige
+Lauffähigkeitsprognose: Dateigröße gegen jede GPU einzeln, insgesamt und aktuell frei,
+mit 5 Prozent / mindestens 512 MiB Reserve. GPUs werden nicht pauschal addiert.
+Die Dateiauswahl zeigt GPU-Werte, Messzeit und ein vorhandenes Deck-RAM-Limit.
+KV-Cache, Kontext, Aktivierungen, Encoder/VAE und backendabhängige Formate bleiben
+als unbekannter Zusatzbedarf gekennzeichnet. Ein positives Gewichts-Ergebnis
+bedeutet nicht „Modell kann gestartet werden“.
-- Sprachmodelle/Chat, Bild, Audio und Video: Entdecken, Bibliothek, Profile, Laufend.
-- Katalog: Suche/Quellenfilter über gekennzeichnete Beispiele, Detailansicht mit
- getrennter Prüfung von Unterstützung, grundsätzlicher Eignung und aktueller
- Startmöglichkeit. Keine Online-Suche und keine berechneten Speicherwerte.
-- Bibliothek: Beispiel einer einmaligen Modelldatei mit mehreren Profilen;
- ausdrücklich keine bestätigte Installation.
-- LLM-Profile: drei vorbelegte Beispiele, Anlegen, Bearbeiten, Duplizieren und
- Entfernen lokaler Entwürfe. Name, Modellvariante, Kontextbudget, Slots,
- GPU-Zuordnung, KV-Cache, gemeinsamer Pool, GPU-Gewichtung, Batch/Microbatch,
- CPU-Threads, Flash Attention und vorgesehener Vision-Projektor.
-- Einzigartige API-Profilnamen, gültige Zahlenbereiche, Microbatch <= Batch und
- nicht ausschließlich nullwertige GPU-Gewichtung werden im Formular geprüft.
-- API-Vorschau zeigt die vorgesehenen Profilnamen. `/v1/models` wird dadurch
- **nicht** als funktionsfähiger Endpunkt implementiert.
-- Laufend: leerer Zustand sowie geplanter Ablauf des Profilwechsels, ohne
- simulierte laufende Modelle oder Warteschlangen.
-- Bild/Audio/Video-Profile: vorbereitete, deaktivierte aufgabenspezifische Felder.
+API (Administrator-Sitzung erforderlich, bestehender CSRF-Schutz):
+- `GET /api/v1/catalog/assessment?repo=owner/name`: Größenbereich und Gewichtsprüfung.
+- `GET /api/v1/catalog/files?repo=owner/name`: zusätzlich Prüfung pro Datei.
+- `GET /api/v1/catalog`: Bibliotheks-IDs und `downloads` neben aktivem `job`.
+- `POST /api/v1/catalog/dismiss` mit `{ "id": "download-id" }`: beendeten Eintrag ausblenden.
+- `GET /api/v1/profiles`: Profile, Blocker und Parameterschemata.
+- `POST /api/v1/profiles/save`: `id` (bei Neuanlage null), `revision` (anfangs 0),
+ `name`, `kind`, `model_id` und `parameters`. Die Modelldatei muss tatsächlich
+ vollständig in der Bibliothek liegen. Keine beliebigen Pfade/Startbefehle.
-## Einstellungen → llama.cpp & Updates
+Die eigenständig implementierte Galerie orientiert sich an [LocalAIs Explore-/Detailansicht](https://github.com/mudler/LocalAI/blob/master/core/http/react-ui/src/pages/Models.jsx). Kein LocalAI-Frontendcode wurde übernommen. llama.cpp-Buildverwaltung und Einpassung der alten Referenzprofile sind unter Einstellungen verfügbar; Details in DEVELOPMENT.md.
-Build-Entwurf mit Backend (CUDA/CPU/Vulkan), gewünschtem Release oder Commit,
-automatischer bzw. expliziter GPU-Architekturauswahl, Toolkit-Prüfung, parallelen
-Build-Jobs und vorgesehener VRAM-Reserve. Für Athena sind RTX 5080 und RTX 3060 als
-bekanntes Zielsystem benannt; eine Live-Build-Kompatibilitätsprüfung erfolgt nicht.
-
-Die Update-Ansicht lässt sich aufklappen. Sie zeigt Platz für aktuellen Build,
-verfügbares Release, echte Release-Notes mit Quelle und Datum sowie Neubau und
-spätere Wiederherstellung. Alle zustandsändernden Laufzeit-Aktionen und die
-Live-Update-Suche sind deaktiviert. Keine erfundenen Versionsnummern oder Fixes.
-Ein Link führt zu den offiziellen llama.cpp-Releases.
-
-## Speicherung und spätere Anbindung
-
-Entwürfe liegen ausschließlich im localStorage dieses Browsers und Origins unter
-`athena-deck-studio-v1`. Sie bleiben nach Neuladen erhalten, enthalten keine
-Zugangsdaten und werden nicht zum Server übertragen. Andere Browser oder die
-Server-Instanz teilen diesen Stand nicht. Bei gesperrtem Browser-Speicher weist die
-Oberfläche darauf hin, dass der Entwurf nur im aktuellen Speicher bleibt.
-
-Die neuen Ansichten in `studio.js` rufen keine API auf. Vorhandene Anmeldung,
-Hardwareanzeige, Demo-Service und Netzwerkverwaltung behalten ihre bisherigen
-Funktionen. `server.py` liefert zusätzlich nur die neue JavaScript-Datei aus.
-
-Vor echter Nutzung erforderlich: Modellkatalog-Adapter, Metadaten-/GGUF-Auswertung,
-Downloadverwaltung, persistente Profil-API, GPU-/KV-Planung, Build-Manager und
-Prozess-Supervisor mit Warteschlange. Gespeicherte Entwürfe dürfen nicht ungeprüft
-als Shell-Befehle interpretiert werden. Die genaue Kontext-/Slot-Semantik muss an
-die eingesetzte llama.cpp-Version gekoppelt und überprüft werden.
-
-## Prüfung
-
-JavaScript-Syntax geprüft. In einer isolierten statischen Browservorschau:
-Profil bearbeitet (Kontext geändert), gespeichert und nach Reload wiedergefunden;
-Build-Einstellungen und Update-Ansicht geöffnet, deaktivierte Aktionsknöpfe sowie
-Layout kontrolliert. Die Testvorschau verwendet einen eigenen Origin, sodass keine
-Entwürfe der eigentlichen Anwendung überschrieben wurden. Keine SSH-/Modell- oder
-Build-Aktion für diese GUI-Erweiterung ausgeführt.
-
-## Modellgalerie und Download-Ablauf (2026-09-28)
-
-Die Live-Galerie verwendet eine eigene Deck-Oberfläche, inspiriert von LocalAIs
-[Modellgalerie](https://github.com/mudler/LocalAI/blob/master/core/http/react-ui/src/pages/Models.jsx)
-und [Download-Anzeige](https://github.com/mudler/LocalAI/blob/master/core/http/react-ui/src/components/OperationCard.jsx).
-Es wurde kein LocalAI-Frontendcode übernommen.
-
-- Beim Öffnen erscheinen beliebte Hugging-Face-Repositories des Bereichs.
-- Suche liefert bis zu 20 Treffer; Sortierung nach Downloads oder Namen.
-- Ergebnis auswählen: Modelldetails, Lizenzlink und feste Quellrevision.
-- Dateien nach Name/Quantisierungsbezeichnung und Format filtern; genau eine Datei auswählen.
-- Download explizit starten. Zugangsbeschränkte Repositories, bereits vorhandene
- Dateien, laufende Downloads und unzureichender Speicher sperren den Button.
-- Fortschritt, Bytes, Abbruch und Fehler werden aus der vorhandenen API angezeigt.
-- Bibliothek zeigt abgeschlossene Dateien einschließlich Version und Integritätsprüfung.
-
-Grenzen: weiterhin Einzeldateien, keine vollständige Pipeline-Installation,
-keine Warteschlange, kein Resume, keine automatischen Modellstarts. Audio-Suche
-ist derzeit auf Text-to-Speech begrenzt. Hardware-/Kontext-Eignung wird in dieser
-Galerie noch nicht berechnet; Dateigröße wird ausdrücklich nicht als VRAM-Bedarf
-angezeigt. Der separate llama.cpp-Einpassungstest bleibt unter Einstellungen.
-
-Validierung: 46 bestehende Python-Tests bestanden; JavaScript-Syntax geprüft;
-Browserprüfung mit echten Hugging-Face-Such- und Dateidaten, Dateifilter,
-Auswahl und Speicherreserve-Sperre. Keine Modellgewichte für den UI-Test geladen.
+Validiert: 54 Python-Tests; JavaScript-Syntaxprüfung; isolierter Browsertest mit echten Katalogdaten und einer temporären Testdatei für Profilanlage, Komponentenhinweise und Download-Ausblenden. Keine produktiven Modellstarts.
diff --git a/capacity.py b/capacity.py
new file mode 100644
index 0000000..d707fce
--- /dev/null
+++ b/capacity.py
@@ -0,0 +1,55 @@
+"""Conservative file-weight checks, never a claim that a pipeline can execute."""
+from pathlib import Path
+import re
+
+GIB=1024**3
+
+def assess(size, hardware, filename=''):
+ if not isinstance(size,int) or size<1:return dict(label='Größe unbekannt',scope='unknown',gpus=[])
+ if filename.lower().endswith('.json'):return dict(label='Konfigurationsdatei · kein Modell',scope='configuration',gpus=[])
+ gpus=[]
+ for gpu in hardware.get('gpus',[]):
+ total=gpu.get('total_mib');used=gpu.get('used_mib')
+ reserve=max(512,(total or 0)*.05)
+ capacity=(total-reserve)*1024**2 if total is not None else None
+ free=max(0,total-used-reserve)*1024**2 if total is not None and used is not None else None
+ gpus.append(dict(name=gpu['name'],uuid=gpu.get('uuid'),capacity_bytes=capacity,free_bytes=free,
+ weights_fit_total=size<=capacity if capacity is not None else None,
+ weights_fit_now=size<=free if free is not None else None))
+ fits=any(x['weights_fit_total'] for x in gpus);now=any(x['weights_fit_now'] for x in gpus)
+ label='Gewichte passen auf eine GPU; Gesamtbedarf offen' if fits else 'Gewichte benötigen Aufteilung/Auslagerung; Gesamtbedarf offen' if gpus else 'GPU-Speicher nicht ermittelbar'
+ ram=hardware.get('ram',{});total=ram.get('total_bytes');used=ram.get('used_bytes')
+ limit=None
+ try:
+ raw=Path('/sys/fs/cgroup/memory.max').read_text().strip()
+ if raw!='max':limit=int(raw)
+ except (OSError,ValueError):pass
+ return dict(label=label,scope='weights_only',weight_bytes=size,gpus=gpus,weights_fit_now=now if gpus else None,
+ ram_total_bytes=total,ram_available_bytes=total-used if total is not None and used is not None else None,
+ deck_ram_limit_bytes=limit,sampled_at=hardware.get('sampled_at'),
+ explanation='Untergrenze: nur diese Datei, 5 % GPU-Reserve (mindestens 512 MiB). Kontext/KV-Cache, Aktivierungen, Textencoder und VAE kommen hinzu. Kein Startversprechen; GPUs werden nicht addiert.')
+
+def overview(files,hardware):
+ # Do not rank a tiny LoRA, VAE or encoder as the base model. Prefer GGUF
+ # variants when available; otherwise inspect main safetensors weights.
+ weights=[f for f in files if f['name'].lower().endswith(('.gguf','.safetensors')) and not
+ re.search(r'(?:vae|text.encoder|tokenizer|mmproj|lora|adapter|clip|safety.checker|mlx)',f['name'],re.I)]
+ gguf=[f for f in weights if f['name'].lower().endswith('.gguf')]
+ if gguf:weights=gguf
+ groups={};variants=[]
+ for f in weights:
+ match=re.match(r'(.*)-(\d{5})-of-(\d{5})(\.(?:gguf|safetensors))$',f['name'],re.I)
+ if match:
+ prefix,idx,count,suffix=match.groups();key=(prefix,int(count),suffix)
+ groups.setdefault(key,[]).append((int(idx),f))
+ else:variants.append(f)
+ incomplete=False
+ for (prefix,count,suffix),parts in groups.items():
+ if {i for i,_ in parts}==set(range(1,count+1)):
+ variants.append(dict(name=prefix+' (alle '+str(count)+' Teile)',size=sum(f['size'] for _,f in parts)))
+ else:incomplete=True
+ if not variants:return dict(min_bytes=None,max_bytes=None,label='Modellgröße nicht eindeutig ermittelbar; Dateiauswahl öffnen',scope='unknown')
+ smallest=min(variants,key=lambda x:x['size']);largest=max(variants,key=lambda x:x['size'])
+ return dict(min_bytes=smallest['size'],max_bytes=largest['size'],file_count=len(variants),
+ **assess(smallest['size'],hardware,smallest['name']),basis=smallest['name'],incomplete_shards=incomplete,
+ size_note='Hauptgewichte (GGUF bevorzugt), vollständige Shards zusammengefasst; nicht Gesamtpaket. Zusatzmodelle und Laufzeitbedarf fehlen.')
diff --git a/catalog-ui.js b/catalog-ui.js
index 6375d19..0fff3f5 100644
--- a/catalog-ui.js
+++ b/catalog-ui.js
@@ -7,45 +7,52 @@ window.CatalogUI = (() => {
const response = await fetch('/api/v1/catalog'+path, data ? {method:'POST',headers:{'Content-Type':'application/json','X-Athena-Deck':'1'},body:JSON.stringify(data)} : {});
const result = await response.json(); if (!response.ok) throw Error(result.error || 'Anfrage fehlgeschlagen'); return result;
}
- function html(library) {
- return `
HUGGING FACE · LIVE-KATALOG
${library ? 'Deine Dateien auf Athena' : 'Das nächste Modell entdecken'}
${library ? 'Heruntergeladene Dateien mit festgehaltener Version und Integritätsprüfung.' : 'Modell suchen, Variante vergleichen und gezielt auf Athena herunterladen.'}
+ function html(library, downloads=false) {
+ return `
HUGGING FACE · LIVE-KATALOG
${downloads ? 'Downloads' : library ? 'Deine Dateien auf Athena' : 'Das nächste Modell entdecken'}
${downloads ? 'Abgeschlossene Einträge ausblenden. Die Dateien bleiben in deiner Bibliothek.' : library ? 'Heruntergeladene Dateien mit festgehaltener Version und Integritätsprüfung.' : 'Modell suchen, Variante vergleichen und gezielt auf Athena herunterladen.'}
- ${library ? '' : `
Beliebte Modelle
01 ENTDECKEN → 02 AUSWÄHLEN → 03 LADEN
Welches Modell interessiert dich?
Wähle ein Ergebnis, um Dateien, Varianten und Lizenz zu prüfen.
Downloads belegen Festplattenspeicher. Sie starten kein Modell. Für Bild, Audio und Video sind häufig mehrere Dateien und ein passender Worker erforderlich.
`}`;
+ ${downloads ? '' : library ? '' : `
Beliebte Modelle
01 ENTDECKEN → 02 AUSWÄHLEN → 03 LADEN
Welches Modell interessiert dich?
Wähle ein Ergebnis, um Dateien, Varianten und Lizenz zu prüfen.
Downloads belegen Festplattenspeicher. Sie starten kein Modell. Für Bild, Audio und Video sind häufig mehrere Dateien und ein passender Worker erforderlich.
`}`;
}
- function bind(kind, library) {
+ function bind(kind, library, downloads=false) {
const root = document.querySelector('#live-catalog'); if (!root) return;
const el = id => root.querySelector('#'+id);
- let state = {entries:[],job:null,free_bytes:null}, models = [], selected = null, detail = null, timer, refreshing = false, searchSequence = 0, detailSequence = 0, starting = false, libraryRendered = false;
+ let state = {entries:[],job:null,free_bytes:null,downloads:[]}, models = [], selected = null, detail = null, timer, refreshing = false, searchSequence = 0, detailSequence = 0, starting = false, libraryRendered = false, lastJobs = null;
const message = text => { if (root.isConnected) el('hub-message').textContent = text; };
+ const fitText = a => a ? `${a.label}${a.weights_fit_now===true?' · Aktuell: Gewichte passen':a.weights_fit_now===false?' · Aktuell: keine GPU mit genug freiem Speicher für diese Datei':''}` : 'Größe und Speicher werden ermittelt …';
const installed = file => detail && state.entries.some(x => x.repo === detail.repo && x.revision === detail.revision && x.file === file.name);
function renderModels() {
const sorted = [...models].sort(el('hub-sort').value === 'name' ? (a,b) => a.repo.localeCompare(b.repo) : (a,b) => (b.downloads||0)-(a.downloads||0));
el('hub-count').textContent = `${models.length} Ergebnisse · höchstens 20 pro Suche`;
- el('hub-results').innerHTML = sorted.map(m => ``).join('') || '
Keine Treffer
Versuche einen anderen Namen. Die Suche ist auf den aktuellen Bereich begrenzt.
`:''}`:'Wähle eine Datei für die Speicherprüfung. Gesamtbedarf der Laufzeit noch nicht berechnet.';
}
function renderFiles() {
const query = el('hub-file-filter').value.toLowerCase(), format = el('hub-format').value;
@@ -69,7 +77,7 @@ window.CatalogUI = (() => {
el('hub-files').innerHTML = '
Dateigröße ist kein VRAM-Bedarf. Kontext, Quantisierung und Laufzeit müssen gemeinsam geprüft werden.
${detail.gated ? '
Dieses Repository benötigt eine Freigabe. Downloads mit Hugging-Face-Zugangsdaten werden noch nicht unterstützt.
' : ''}
Variante oder Datei auswählen
Einzeldatei-Download auf Athena. Geteilte Modelle und Bild-/Audio-/Video-Pipelines benötigen weitere Dateien; dies installiert noch keinen vollständigen Worker.
Dieses Repository benötigt eine Freigabe. Downloads mit Hugging-Face-Zugangsdaten werden noch nicht unterstützt.
' : ''}
Variante oder Datei auswählen
Einzeldatei-Download auf Athena. Geteilte Modelle und Bild-/Audio-/Video-Pipelines benötigen weitere Dateien; dies installiert noch keinen vollständigen Worker.
`;
+ el('profile-close').onclick=()=>el('profile-editor').replaceChildren();
+ el('profile-form').onsubmit=async event=>{event.preventDefault();const form=event.target,values=new FormData(form),button=form.querySelector('button');button.disabled=true;
+ try{await api('profiles/save',{id:data.id,revision:data.revision,name:values.get('name'),kind,model_id:values.get('model_id'),parameters:Object.fromEntries(Object.keys(schema).map(k=>[k,Number(values.get(k))]))});if(!root.isConnected)return;el('profile-editor').replaceChildren();await load();message('Profil auf Athena gespeichert. Kein Modell gestartet.');}
+ catch(error){if(root.isConnected)el('profile-error').textContent=error.message;}finally{button.disabled=false;}
+ };
+ el('profile-editor').scrollIntoView({behavior:'smooth',block:'start'});
+ }
+ el('profile-new').disabled=true;el('profile-new').onclick=()=>editor();
+ load().then(()=>{if(modelId&&root.isConnected)editor(null,modelId);});
+ }
+ return {html,bind};
+})();
diff --git a/profiles.py b/profiles.py
new file mode 100644
index 0000000..d268362
--- /dev/null
+++ b/profiles.py
@@ -0,0 +1,53 @@
+"""Server-persisted library-backed profiles with validated, typed parameters."""
+import json
+import re
+import threading
+import time
+import uuid
+from pathlib import Path
+
+SCHEMAS={
+ 'chat':{'context':(512,2097152,8192),'slots':(1,16,1),'threads':(1,256,6),'batch':(1,8192,512),'ubatch':(1,8192,128)},
+ 'image':{'width':(256,2048,1024),'height':(256,2048,1024),'steps':(1,100,25),'seed':(-1,2147483647,-1),'guidance':(0,30,1)},
+ 'audio':{'speed':(.25,4,1)},
+ 'video':{'width':(256,1920,768),'height':(256,1088,512),'frames':(1,241,33),'fps':(1,60,24),'steps':(1,100,20),'seed':(-1,2147483647,-1)}
+}
+class Profiles:
+ def __init__(self,path,catalog):
+ self.path=Path(path);self.catalog=catalog;self.lock=threading.RLock()
+ self.rows=json.loads(self.path.read_text()) if self.path.exists() else []
+ def status(self):
+ with self.lock:
+ rows=json.loads(json.dumps(self.rows))
+ for p in rows:
+ try:
+ p['model']=self.catalog.entry(p['model_id'])
+ p['blockers']=['Für dieses Profil ist noch kein ausführbarer Worker angebunden.']
+ if p['kind']=='image' and 'qwen-image-2.1' in p['model']['repo'].lower():
+ p['blockers']=['Qwen-Image-2.1 benötigt zusätzlich einen kompatiblen Textencoder und VAE.','Eine eigene Bildlaufzeit muss eingerichtet werden; llama.cpp führt keine Bildmodelle aus.']
+ except ValueError as exc:p['model']=None;p['blockers']=[str(exc)]
+ p['state']='configured';p['runnable']=False
+ return {'profiles':rows,'schemas':SCHEMAS}
+ def save(self,data):
+ if set(data)!={'id','revision','name','kind','model_id','parameters'}:raise ValueError('Ungültige Profilfelder.')
+ kind=data['kind'];name=data['name'];params=data['parameters']
+ if not isinstance(kind,str) or kind not in SCHEMAS or not isinstance(name,str) or not re.fullmatch('[a-zA-Z0-9][a-zA-Z0-9_-]{1,63}',name):raise ValueError('API-Name: 2–64 Buchstaben, Ziffern, Bindestrich oder Unterstrich.')
+ model=self.catalog.entry(data['model_id'])
+ if model['kind']!=kind or not model['file'].lower().endswith(('.gguf','.safetensors')):raise ValueError('Eine Gewichtsdatei dieses Bereichs auswählen, keine Konfiguration.')
+ if not isinstance(params,dict) or set(params)!=set(SCHEMAS[kind]):raise ValueError('Unvollständige oder unbekannte Profilparameter.')
+ for key,(lo,hi,_) in SCHEMAS[kind].items():
+ value=params[key]
+ floating=key in ('guidance','speed')
+ if isinstance(value,bool) or not isinstance(value,(float,int) if floating else int) or not lo<=value<=hi:raise ValueError('Ungültiger Parameter: '+key)
+ if kind in ('image','video') and (params['width']%64 or params['height']%64):raise ValueError('Breite und Höhe müssen durch 64 teilbar sein.')
+ if kind=='chat' and params['ubatch']>params['batch']:raise ValueError('Microbatch darf nicht größer als Batch sein.')
+ with self.lock:
+ existing=next((p for p in self.rows if p['id']==data['id']),None)
+ if data['id'] is not None and not existing:raise ValueError('Profil nicht gefunden.')
+ if data['revision']!=(existing['revision'] if existing else 0):raise ValueError('Profil wurde zwischenzeitlich geändert. Ansicht neu laden.')
+ if any(p['name']==name and p is not existing for p in self.rows):raise ValueError('API-Profilname bereits vergeben.')
+ row=dict(id=existing['id'] if existing else uuid.uuid4().hex,revision=data['revision']+1,name=name,kind=kind,model_id=model['id'],parameters=params,updated_at=time.time())
+ rows=[row if p is existing else p for p in self.rows] if existing else self.rows+[row]
+ self.path.parent.mkdir(parents=True,exist_ok=True,mode=0o700)
+ temp=self.path.with_suffix('.tmp');temp.write_text(json.dumps(rows));temp.replace(self.path);self.rows=rows
+ return row
diff --git a/server.py b/server.py
index c1dc630..fba5a5e 100644
--- a/server.py
+++ b/server.py
@@ -7,6 +7,8 @@ import secrets
from http.cookies import SimpleCookie, CookieError
from auth import CredentialStore, verify_password
from catalog import Catalog
+from profiles import Profiles
+from capacity import assess, overview
from runtime import Runtime
from urllib.parse import urlsplit, parse_qs
from network.client import NetworkClient
@@ -99,6 +101,7 @@ class Server(ThreadingHTTPServer):
super().__init__((os.environ.get('DECK_BIND_HOST','127.0.0.1'), port), Handler)
self.catalog = Catalog(Path(state_dir or os.environ.get("DECK_STATE_DIR", ROOT/".state"))/"models")
self.runtime = Runtime(Path(state_dir or os.environ.get("DECK_STATE_DIR", ROOT/".state"))/"runtime")
+ self.profiles = Profiles(self.catalog.root.parent/"profiles.json",self.catalog)
self.demo = DemoService()
self.hardware = HardwareProvider()
self.started = time.time()
@@ -262,12 +265,14 @@ class Handler(BaseHTTPRequestHandler):
return self.respond({'error':'Anmeldung erforderlich.'},401)
if not self.authenticated() and self.path == '/':
return self.respond((ROOT/'login.html').read_bytes(), mime='text/html; charset=utf-8')
- routes = {'/': ('index.html', 'text/html; charset=utf-8'), '/app.js': ('app.js', 'text/javascript'), '/style.css': ('style.css', 'text/css'), '/network-ui.js': ('network-ui.js', 'text/javascript'), '/access-ui.js': ('access-ui.js', 'text/javascript'), '/studio.js': ('studio.js', 'text/javascript'), '/catalog-ui.js': ('catalog-ui.js','text/javascript'), '/runtime-ui.js': ('runtime-ui.js','text/javascript')}
+ routes = {'/': ('index.html', 'text/html; charset=utf-8'), '/app.js': ('app.js', 'text/javascript'), '/style.css': ('style.css', 'text/css'), '/network-ui.js': ('network-ui.js', 'text/javascript'), '/access-ui.js': ('access-ui.js', 'text/javascript'), '/studio.js': ('studio.js', 'text/javascript'), '/catalog-ui.js': ('catalog-ui.js','text/javascript'), '/runtime-ui.js': ('runtime-ui.js','text/javascript'), '/profiles-ui.js': ('profiles-ui.js','text/javascript')}
if self.path in routes:
name, mime = routes[self.path]
return self.respond((ROOT/name).read_bytes(), mime=mime)
if self.path == '/api/v1/status':
return self.respond(dict(name='Athena Deck', version='0.6.0', state='ready', uptime_seconds=round(time.time()-self.server.started), mode='isolated', location=os.environ.get('DECK_LOCATION', 'Athena · Debian-Server'), demo=self.server.demo.status()))
+ if self.path == '/api/v1/profiles':
+ return self.respond(self.server.profiles.status())
if self.path == '/api/v1/hardware':
return self.respond(self.server.hardware.snapshot())
if self.path.startswith('/api/v1/runtime'):
@@ -279,7 +284,13 @@ class Handler(BaseHTTPRequestHandler):
try:
path=urlsplit(self.path);q=parse_qs(path.query)
if path.path=='/api/v1/catalog/search':return self.respond(self.server.catalog.search(q.get('q',[''])[0],q.get('kind',['chat'])[0]))
- if path.path=='/api/v1/catalog/files':return self.respond(self.server.catalog.files(q.get('repo',[''])[0]))
+ if path.path=='/api/v1/catalog/assessment':
+ data=self.server.catalog.files(q.get('repo',[''])[0])
+ return self.respond(overview(data['files'],self.server.hardware.snapshot()))
+ if path.path=='/api/v1/catalog/files':
+ data=dict(self.server.catalog.files(q.get('repo',[''])[0]));hardware=self.server.hardware.snapshot()
+ data['files']=[dict(f,assessment=assess(f['size'],hardware,f['name'])) for f in data['files']]
+ return self.respond(data)
if path.path=='/api/v1/catalog':return self.respond(self.server.catalog.status())
except Exception as exc:
return self.respond({'error':str(exc) if isinstance(exc,ValueError) else 'Katalog nicht erreichbar.'},400)
@@ -329,10 +340,15 @@ class Handler(BaseHTTPRequestHandler):
raise ValueError('Ungültige Laufzeitaktion.')
except ValueError as exc:return self.respond({'error':str(exc)},400)
except (OSError, subprocess.SubprocessError):return self.respond({'error':'Laufzeitaktion fehlgeschlagen; Speicher und Werkzeuge prüfen.'},503)
- if self.path in ('/api/v1/catalog/download','/api/v1/catalog/cancel'):
+ if self.path == '/api/v1/profiles/save':
+ try:return self.respond(self.server.profiles.save(self.read_json()))
+ except ValueError as exc:return self.respond({'error':str(exc)},400)
+ except OSError:return self.respond({'error':'Profil konnte nicht gespeichert werden.'},503)
+ if self.path in ('/api/v1/catalog/download','/api/v1/catalog/cancel','/api/v1/catalog/dismiss'):
try:
data=self.read_json()
- if self.path.endswith('/cancel'):return self.respond(self.server.catalog.stop())
+ if self.path.endswith('/dismiss') and set(data)=={'id'}:return self.respond(self.server.catalog.dismiss(data['id']))
+ if self.path.endswith('/cancel') and not data:return self.respond(self.server.catalog.stop())
if set(data)!={'repo','filename','revision','kind'}:raise ValueError('Ungültige Downloadparameter.')
return self.respond(self.server.catalog.start(**data))
except Exception as exc:
diff --git a/studio.js b/studio.js
index aab148d..3d868ae 100644
--- a/studio.js
+++ b/studio.js
@@ -1,60 +1,18 @@
-/* Live catalogue/downloads; runtime and profile drafts remain previews. */
+/* Server-backed model management. Legacy browser drafts remain untouched. */
const Studio=(()=>{
- const key='athena-deck-studio-v1';
- const seed={profiles:[{id:'alltag',name:'qwen-alltag',model:'qwen-iq4',context:76800,slots:1,gpu:'both',split:'85,15',cache:'q8_0',batch:2048,ubatch:128,threads:8,unified:true,flash:true,vision:false},{id:'parallel',name:'qwen-parallel',model:'qwen-iq4',context:160000,slots:2,gpu:'both',split:'85,15',cache:'q8_0',batch:2048,ubatch:128,threads:8,unified:true,flash:true,vision:false},{id:'lang',name:'qwen-langkontext',model:'qwen-iq4',context:262144,slots:1,gpu:'both',split:'80,20',cache:'q8_0',batch:2048,ubatch:128,threads:8,unified:true,flash:true,vision:false}],runtime:{backend:'CUDA',revision:'',architectures:'auto',custom:'',jobs:4,toolkit:'auto'}};
- let state=structuredClone(seed);try{const saved=JSON.parse(localStorage.getItem(key));if(saved?.profiles&&Array.isArray(saved.profiles)&&saved.runtime)state=saved;}catch{}
- let section='discover',category='',editing=null;
- const models=[{id:'qwen-iq4',kind:'chat',name:'Qwen 27B',variant:'IQ4_XS · GGUF',source:'Hugging Face',description:'Sprachmodell · Beispiel für mehrere Profile mit einer Modelldatei.'},{id:'qwen-q4',kind:'chat',name:'Qwen 27B',variant:'Q4_K_M · GGUF',source:'Hugging Face',description:'Alternative Quantisierung · eigener Bibliothekseintrag.'},{id:'image-example',kind:'image',name:'Bildmodell',variant:'Modellpaket · Beispiel',source:'Modellkatalog',description:'Textencoder, Diffusionsmodell und VAE als zusammengehöriges Paket.'},{id:'tts-example',kind:'audio',name:'Sprachausgabe',variant:'TTS · Beispiel',source:'Modellkatalog',description:'Sprachmodell und Stimmen mit passender Audio-Laufzeit.'},{id:'asr-example',kind:'audio',name:'Spracherkennung',variant:'ASR · Beispiel',source:'Modellkatalog',description:'Audio in Text umwandeln · CPU-/GPU-Eignung später prüfen.'},{id:'video-example',kind:'video',name:'Videomodell',variant:'Modellpaket · Beispiel',source:'Modellkatalog',description:'Auflösung, Bildanzahl und Zusatzkomponenten gemeinsam planen.'}];
+ let section='discover',category='';
const labels={chat:'Sprachmodelle / Chat',image:'Bildgenerierung',audio:'Audio',video:'Video'};
- const e=v=>String(v??'').replace(/[&<>"']/g,c=>({'&':'&','<':'<','>':'>','"':'"',"'":'''}[c]));
- const count=n=>Number(n).toLocaleString('de-DE');
- const selected=(a,b)=>a===b?'selected':'';
- const check=v=>v?'checked':'';
- function save(){try{localStorage.setItem(key,JSON.stringify(state));return true;}catch{notice('Speichern im Browser nicht möglich. Entwurf bleibt nur für diese Ansicht erhalten.');return false;}}
- function notice(message){const node=document.querySelector('#studio-notice');if(node)node.textContent=message;}
- const banner=()=>'
GUI-VORSCHAUKatalog und Datei-Downloads sind live. Profile bleiben Entwürfe; Builds sind unter Einstellungen aktiv. Keine Modellstarts.
';
- function header(title,description){return `
ATHENA / MODELLVERWALTUNG
${title}
${description}
${banner()}`;}
- function render(page,force=false){
+ function render(page,force=false,modelId=null){
if(!force&&document.querySelector('#studio')?.dataset.page===page)return;
- if(category!==page){category=page;section='discover';editing=null;}
- const view=document.querySelector('#view');
- view.innerHTML=`
${page==='runtime'?runtime():workspace(page)}
`;
- bind(page);
- }
- function workspace(page){
- return header(labels[page], 'Modelle entdecken, als Bibliothek organisieren und über Profile bereitstellen.')+`
`;}
- function discover(page){return CatalogUI.html(false);}
- function library(page){return CatalogUI.html(true);}
- function profiles(page){
- if(page!=='chat')return `VORBEREITET
${page==='image'?'Auflösung und Generierung':page==='audio'?'Sprache, Stimmen und Verarbeitung':'Auflösung und Videolänge'}
${page==='image'?'':page==='audio'?'':''}
Eigene Worker-Adapter und Eignungsregeln folgen. LLM-Kontextparameter werden hier nicht übernommen.
`;
- return `
Ein Modell. Mehrere Möglichkeiten.
API-Namen und Startparameter als lokale Profilentwürfe.
${state.profiles.map(p=>`
PROFILENTWURF
${e(p.name)}
${e(models.find(m=>m.id===p.model)?.variant||'Modell nicht zugeordnet')}
Kontextbudget${count(p.context)}
Slots${e(p.slots)}
ZustandNicht bereitgestellt
`).join('')||'Noch keine Profilentwürfe. Lege dein erstes Profil an.'}
Später wählt der Client den Profilnamen im Feld model. Deck verwaltet den passenden llama-server-Prozess.
`;
- }
- function running(page){return `○
Keine von Deck verwaltete Modelllaufzeit
${page==='chat'?'llama.cpp ist in dieser Vorschau nicht angebunden. Gespeicherte Profile starten keinen Prozess.':'Für diesen Bereich ist noch kein Worker angebunden.'}
Anfrage zuordnenProfil anhand des API-Namens auswählen.
Arbeit abschließenLaufende Anfragen beenden lassen; neue einreihen.
Prozess wechselnllama-server beenden und mit dem Zielprofil starten.
Bereitschaft prüfenErst danach wartende Anfragen weiterleiten.
Mehrere angebotene Profile sind nicht automatisch mehrere geladene Modelle. Produktive Athena-Prozesse werden in dieser Vorschau nicht gesteuert.
`;}
- function detail(id){const m=models.find(m=>m.id===id);document.querySelector('#model-detail').innerHTML=`
${e(m.name)} · Eignungsprüfung
NOCH NICHT BERECHNET
Unterstützt?
Format und Laufzeit-Kompatibilität noch nicht geprüft.
Passt grundsätzlich?
Gewichte, Zusatzkomponenten und Arbeitsspeicherbedarf noch nicht ermittelt.
Kann jetzt starten?
Keine Ressourcenreservierung oder Prozesssteuerung angebunden.
${m.kind==='chat'?'Kontextlänge, KV-Cache, Slots und GPU-Aufteilung beeinflussen den Speicherbedarf. Die beiden GPUs werden nicht pauschal als ein gemeinsamer VRAM-Pool gerechnet.':'Die spätere Einschätzung berücksichtigt die zur Aufgabe passenden Parameter und den jeweiligen Worker.'} Es gibt in dieser Vorschau keine erfundenen Speicherwerte.
`;document.querySelector('#model-detail').scrollIntoView({behavior:'smooth',block:'nearest'});}
- function field(label,name,value,type='number',attrs=''){return ``;}
- function editor(id,model){editing=id||null;const p=id?state.profiles.find(p=>p.id===id):{...seed.profiles[0],name:'qwen-neues-profil',model:model||'qwen-iq4'};if(!p)return;
- document.querySelector('#profile-editor').innerHTML=`
${id?'Profil bearbeiten':'Neues Profil'}
NUR ENTWURF
`;
- document.querySelector('#profile-form').onsubmit=event=>{event.preventDefault();const data=new FormData(event.target),value=Object.fromEntries(data);for(const n of ['context','slots','batch','ubatch','threads'])value[n]=Number(value[n]);for(const n of ['unified','flash','vision'])value[n]=data.has(n);const out=document.querySelector('#profile-error');if(state.profiles.some(q=>q.id!==editing&&q.name===value.name)){out.textContent='Dieser API-Profilname ist bereits vergeben.';return;}if(value.ubatch>value.batch){out.textContent='Microbatch darf nicht größer als Batch sein.';return;}if(value.gpu==='both'&&!value.split.split(',').some(v=>Number(v)>0)){out.textContent='Mindestens eine GPU-Gewichtung muss größer als null sein.';return;}value.id=editing||crypto.randomUUID();const idx=state.profiles.findIndex(q=>q.id===editing);if(idx<0)state.profiles.push(value);else state.profiles[idx]=value;const stored=save();render(category,true);notice(stored?'Profilentwurf in diesem Browser gespeichert. Kein Modell gestartet.':'Entwurf nur im Speicher gehalten; Browser-Speicher nicht verfügbar.');};
- document.querySelector('#cancel-edit').onclick=()=>document.querySelector('#profile-editor').replaceChildren();
- if(id)document.querySelector('#delete-profile').onclick=()=>{state.profiles=state.profiles.filter(q=>q.id!==id);save();render(category,true);notice('Lokalen Profilentwurf entfernt. Modelldateien wurden nicht verändert.');};
- document.querySelector('#profile-editor').scrollIntoView({behavior:'smooth',block:'start'});
- }
- function runtime(){return RuntimeUI.html();}
- function bind(page){
+ if(category!==page){category=page;section='discover';}
+ if(modelId)section='profiles';
+ const body=page==='runtime'?RuntimeUI.html():`
ATHENA / MODELLVERWALTUNG
${labels[page]}
Modelle entdecken, herunterladen und mit gespeicherten Profilen konfigurieren.
Profile werden auf Athena gespeichert. Bild-, Audio- und Video-Worker sind noch nicht eingerichtet. Fehlende Komponenten stehen beim jeweiligen Profil.