Separate vision projector device from LLM GPU split

2026-10-01 12:58:45 +02:00
parent 69927ca5e6
commit 9add6d0547
5 changed files with 31 additions and 8 deletions
@@ -228,3 +228,5 @@ Backup und Wiederherstellung unter **Einstellungen → Backup & Restore**: [Umfa
 Die optionale LadyPoly-WebUI läuft als markierter Anwendungscontainer unter
 Weitere Dienste und nutzt Decks Musikworker statt einer eigenen GPU-Laufzeit.
 Installation, Verbindung und Einschränkungen: [LadyPoly](deploy/ladypoly/README.md).
+
+Sprachmodell-GPUs und Vision-Projektor werden unabhängig zugeordnet. Der Modell-Split verteilt ausschließlich LLM-Gewichte; eine zusätzliche Projektor-GPU wird nur für mmproj sichtbar gemacht, nicht für Modell-Offload. Die Speicherprüfung berücksichtigt beide Geräte einschließlich Projektorbedarf.