diff --git a/docs/CONTAINER_INVENTORY.md b/docs/CONTAINER_INVENTORY.md index 7b34fd1..a167d3a 100644 --- a/docs/CONTAINER_INVENTORY.md +++ b/docs/CONTAINER_INVENTORY.md @@ -11,7 +11,7 @@ nicht automatisch ein ungenutzter Rest. | Container | Modell oder wesentliche Komponente | Aufgabe | |---|---|---| | `mike-ai-backup` | kein Modell; Offen Docker Volume Backup | Sichert `/data`, `/etc/mike-ai`, den Stack und die persistenten Docker-Volumes im Fünf-Stunden-Takt. | -| `mike-ai-applio-studio` | Applio/RVC; Stimmenmodelle werden nutzerseitig ergänzt | Vollständige RVC-Oberfläche für Inferenz, Modellverwaltung und Training auf der RTX 5080. | +| `mike-ai-applio-studio` | Applio/RVC; Stimmenmodelle werden nutzerseitig ergänzt | Vollständige RVC-Oberfläche für Inferenz, Modellverwaltung und Training auf der RTX 5080. Für eine Konvertierung ist ein importiertes oder trainiertes `.pth`-Modell nötig; eine Referenzaufnahme allein reicht nicht. | | `mike-ai-image-worker` | FLUX.2 Klein 9B FP8, Qwen3-8B NF4 Textencoder und VAE | Erzeugt und bearbeitet Bilder transaktional; nutzt während eines Auftrags RTX 5080 und RTX 3060. | | `mike-ai-llama-beta1` | Qwen3.8-27B GSQ-RCO `IQ3_S-MTP`, Qwen-MMProj BF16 | Experimentelles Beta-Profil mit 112.000 Token Kontext; wird nur auf Anforderung geladen. | | `mike-ai-llama-dashboard` | kein Modell | Zeigt Telemetrie, Profile, GPU-Nutzung und Betriebsarten an und bietet die Modusumschaltung. | @@ -28,7 +28,7 @@ nicht automatisch ein ungenutzter Rest. | `mike-ai-profile-controller` | kein Modell | Startet und stoppt ausschließlich freigegebene Modellprofile und Spezialworker in einer sicheren Reihenfolge. | | `mike-ai-qwen3-tts` | `Qwen/Qwen3-TTS-12Hz-1.7B-Base`, Stimme Serena | Hochwertige deutsche Sprachausgabe auf der RTX 3060 im LLM-Betrieb. | | `mike-ai-router` | kein eigenes Modell | Einzige OpenAI-kompatible Modelladresse; koordiniert Profile, Bildaufträge, Sprache und Betriebsarten. | -| `mike-ai-seed-vc-studio` | Seed-VC V1; Gewichte werden beim ersten Auftrag geladen | Zero-Shot-Sprach- und Gesangswandlung anhand einer Referenzaufnahme auf der RTX 5080. | +| `mike-ai-seed-vc-studio` | Seed-VC V1; Gewichte werden beim ersten Modusstart vollständig geladen | Zero-Shot-Sprach- und Gesangswandlung anhand einer Referenzaufnahme auf der RTX 5080. Der Dienst gilt erst nach geladenen Teilmodellen als bereit; Gewichte bleiben persistent. | | `mike-ai-stem-separator` | BS-RoFormer Viperx 1297, `htdemucs_ft`, `htdemucs_6s`, `MossFormer2_SE_48K` | Trennt Gesang, Instrumente oder Sprache/Hintergrundgeräusche im exklusiven Separationsmodus. | | `mike-ai-tts-gateway` | kein eigenes Modell | Normalisiert Text, leitet TTS an Qwen3-TTS weiter und fällt bei Bedarf auf Piper zurück. | | `mike-ai-voice-studio` | `k2-fsa/OmniVoice` 0.2.1 mit Whisper-ASR | Erzeugt Text-to-Speech mit einer Referenzstimme; kein Audio-to-Audio-Voice-Changer. | diff --git a/docs/OPERATING_MODES.md b/docs/OPERATING_MODES.md index 655adbe..7149d32 100644 --- a/docs/OPERATING_MODES.md +++ b/docs/OPERATING_MODES.md @@ -82,7 +82,9 @@ fixiert; Gewichte werden beim ersten Auftrag persistent zwischengespeichert. Applio ist unter `http://192.168.1.212:8011` erreichbar. Der RVC-Pfad besitzt eine eigene Modellbibliothek, Inferenz und Training. Hochwertige Inferenz -benötigt ein passendes RVC-Stimmenmodell. Der Code ist auf Commit +benötigt zwingend ein zuvor importiertes oder trainiertes RVC-Stimmenmodell +(`.pth`, optional `.index`). Eine bloße Referenzaufnahme genügt bei Applio +nicht. Der Code ist auf Commit `7fa68ec2166ab1331c539704159fa14901e94e5a` fixiert. Hermes benötigt dafür kein Plugin. Exakt eingegebene Steuerbefehle werden vom diff --git a/docs/TESTED_MODELS.md b/docs/TESTED_MODELS.md index bb29494..44f685d 100644 --- a/docs/TESTED_MODELS.md +++ b/docs/TESTED_MODELS.md @@ -62,7 +62,8 @@ Titelgenerierung und Kontextkompression in Hermes. | 09.09.2026 | `chenxie95/X-VC`, Code `49df8c591eafc48b096e466d96f9839f9c0dd739`, UI-Basis `d761cd6421e85376b2656dfefd8471d7f35a42be` | Offizielles Beispiel Ende-zu-Ende gewandelt: 5,20 s Audio in 1,07 s (RTF 0,21), gültiges 16-kHz-Mono-PCM-WAV; Modell belegt rund 2,9 GiB auf der RTX 5080. GLM-4-Voice-Tokenizer dokumentiert Chinesisch und Englisch | **technischer Start- und Konvertierungstest bestanden**; deutsche Hörabnahme offen | | 09.09.2026 | Resemble Enhance 0.0.1, Modellrevision `4e3510ce4a8391159f665903544c5150bee7b2cb` | 14,56 s native X-VC-Ausgabe bei 16 kHz wurden auf der RTX 5080 in 3,55 s zu 44,1-kHz-PCM-WAV restauriert. 3,27 % der gemessenen Signalenergie lagen danach oberhalb 8 kHz; damit ist der Pfad keine bloße Neuabtastung. Wegen der alten Upstream-Pins läuft die reine Inferenz mit NumPy 1.26.4/SciPy 1.11.4 auf dem bestehenden Torch-2.8/CUDA-12.8-Unterbau | **technisch produktiv als optionaler A/B-Pfad**; Hörabnahme entscheidet, ob die rekonstruierten Höhen subjektiv besser oder künstlicher klingen | | 09.09.2026 | `Plachtaa/seed-vc` V1, Code `51383efd921027683c89e5348211d93ff12ac2a8` | Gepinntes CUDA-12.8-/Torch-2.7.1-Image auf RTX 5080 gestartet; offizielle Gradio-Oberfläche und Healthcheck antworten. Gewichte folgen beim ersten echten Auftrag in den persistenten Hugging-Face-Cache | **technischer Starttest bestanden**; Konvertierungs- und Hörtest offen | -| 09.09.2026 | `IAHispano/Applio`, Code `7fa68ec2166ab1331c539704159fa14901e94e5a` | Gepinntes CUDA-12.8-fähiges Image auf RTX 5080 gestartet; vollständige Applio/RVC-Oberfläche antwortet. Rund 1,8 GiB Basisgewichte und die Konfiguration wurden persistent ausgelagert; kein Zielstimmenmodell vorinstalliert | **technischer Start- und Persistenztest bestanden**; Konvertierungstest mit einem ausgewählten RVC-Modell offen | +| 09.09.2026 | Seed-VC V1, Code `51383efd921027683c89e5348211d93ff12ac2a8` | Sämtliche V1-Teilmodelle werden nun vor Freigabe der Oberfläche geladen und persistent gespeichert. Reale Beispielwandlung mit 10 Diffusionsschritten auf der RTX 5080 abgeschlossen; vollständige WAV erzeugt, etwa 3,6 GiB VRAM belegt | **technischer Start-, Persistenz- und Konvertierungstest bestanden**; der erste Start benötigt wegen der Downloads mehrere Minuten, spätere Starts verwenden den Cache | +| 09.09.2026 | `IAHispano/Applio`, Code `7fa68ec2166ab1331c539704159fa14901e94e5a` | Gepinntes CUDA-12.8-fähiges Image auf RTX 5080 gestartet; vollständige Applio/RVC-Oberfläche antwortet und CUDA ist verfügbar. Rund 1,8 GiB Basisgewichte und die Konfiguration wurden persistent ausgelagert. Es ist kein Zielstimmenmodell installiert; Applio kann aus einer Referenzaufnahme allein kein Modell ableiten | **technischer Start- und Persistenztest bestanden**; Konvertierung erst nach Import oder Training einer `.pth`-Stimme möglich | ## Musikgenerierung diff --git a/experiments/seed-vc/Dockerfile b/experiments/seed-vc/Dockerfile index f5cd577..89ef4fe 100644 --- a/experiments/seed-vc/Dockerfile +++ b/experiments/seed-vc/Dockerfile @@ -3,7 +3,8 @@ FROM nvidia/cuda:12.8.1-cudnn-runtime-ubuntu22.04 ARG SEED_VC_COMMIT=51383efd921027683c89e5348211d93ff12ac2a8 ENV DEBIAN_FRONTEND=noninteractive \ PIP_DISABLE_PIP_VERSION_CHECK=1 \ - HF_HOME=/models/huggingface + HF_HOME=/models/huggingface \ + PYTHONUNBUFFERED=1 RUN apt-get update && apt-get install -y --no-install-recommends \ build-essential ca-certificates curl ffmpeg git libsndfile1 python3 python3-dev python3-pip \ @@ -17,7 +18,8 @@ RUN git clone https://github.com/Plachtaa/seed-vc.git . \ torch==2.7.1 torchvision==0.22.1 torchaudio==2.7.1 \ --index-url https://download.pytorch.org/whl/cu128 \ && python3 -m pip install --no-cache-dir -r requirements.txt \ - && sed -i 's/demo\.launch()/demo.launch(server_name="0.0.0.0", server_port=7860)/' app.py + && sed -i 's/demo\.launch()/demo.launch(server_name="0.0.0.0", server_port=7860)/' app.py \ + && sed -i '/if args.enable_v1:/a\ print("Loading V1 models...", flush=True)\n from seed_vc_wrapper import SeedVCWrapper\n vc_wrapper_v1 = SeedVCWrapper()\n print("V1 models ready.", flush=True)' app.py EXPOSE 7860 CMD ["python3", "app.py", "--enable-v1"] diff --git a/experiments/seed-vc/README.md b/experiments/seed-vc/README.md index 86b0714..0667521 100644 --- a/experiments/seed-vc/README.md +++ b/experiments/seed-vc/README.md @@ -9,6 +9,8 @@ Gradio-Oberfläche. Der Build ist auf Upstream-Commit - GPU: RTX 5080, exklusiv zu LLM, Musik- und anderen Voice-Modi - Persistenz: Hugging-Face-Cache unter `/data/huggingface` -Das Image enthält den Programmcode. Die benötigten Modellgewichte werden beim -ersten tatsächlichen Einsatz in den persistenten Cache geladen. - +Das Image enthält den Programmcode. Beim Moduswechsel werden sämtliche +V1-Teilmodelle geladen, bevor der Healthcheck den Dienst als bereit meldet. Die +benötigten Modellgewichte bleiben unter `/data/voice/seed-vc/checkpoints` +erhalten; dadurch blockiert nicht mehr der erste Konvertierungsauftrag scheinbar +ohne Fortschritt. diff --git a/experiments/seed-vc/compose.yaml b/experiments/seed-vc/compose.yaml index 76a2851..a7900e8 100644 --- a/experiments/seed-vc/compose.yaml +++ b/experiments/seed-vc/compose.yaml @@ -15,6 +15,7 @@ services: - "127.0.0.1:8010:7860" volumes: - /data/voice/seed-vc/huggingface:/models/huggingface + - /data/voice/seed-vc/checkpoints:/app/checkpoints - /data/voice/seed-vc/output:/app/results healthcheck: test: ["CMD-SHELL", "curl -fsS http://127.0.0.1:7860/ >/dev/null"] diff --git a/platform/llama-dashboard/app.py b/platform/llama-dashboard/app.py index 87e93ee..e846819 100644 --- a/platform/llama-dashboard/app.py +++ b/platform/llama-dashboard/app.py @@ -639,7 +639,7 @@ HTML = r'''
Mike AI · Live Telemetry

Athena llama.cpp Dashboard

verbinde …
- +
Aktives Profil
–
Router wird abgefragt
Modell
–
–
CPU
–
–