Offload vision projector to RTX 3060
This commit is contained in:
@@ -102,3 +102,8 @@ router/ OpenAI-kompatibler Profile Router
|
||||
Die Profilwerte wurden auf RTX 5080 und RTX 3060 vermessen und bilden die
|
||||
verbindliche Standardmatrix. Neue Varianten ersetzen sie erst nach demselben
|
||||
Vergleichstest und einer dokumentierten Entscheidung.
|
||||
|
||||
Der integrierte Vision-Projektor der Profile Fast, Medium und Large läuft
|
||||
gezielt auf der RTX 3060. Das hält den knappen VRAM der RTX 5080 für Modell und
|
||||
Kontext frei und beschleunigte den dokumentierten synthetischen Vision-Test
|
||||
gegenüber CPU-Vision um etwa den Faktor 8,5 bei der Gesamtzeit.
|
||||
|
||||
Reference in New Issue
Block a user