Show Qwen profile contexts in architecture map
This commit is contained in:
1 parent
0b927d47b9
commit
d71f2ebbfe
2 files changed
+14
No files matched your search
@@ -32,4 +32,18 @@ flowchart LR
|
||||
begrenzt.
|
||||
- Der Router ist die einzige Modelladresse, die Hermes kennen muss.
|
||||
|
||||
## Dynamische Qwen-Profile
|
||||
|
||||
Der Profile Router hält immer nur ein Qwen-Profil aktiv. Ein Wechsel lädt
|
||||
dasselbe 27B-Modell mit der zum Profil gehörenden GPU-Aufteilung und
|
||||
Kontextgröße:
|
||||
|
||||
| Profil | Kontextfenster |
|
||||
| --- | ---: |
|
||||
| Fast | 76.800 Token |
|
||||
| Medium | 160.000 Token |
|
||||
| Large | 192.000 Token |
|
||||
| Ultra | 262.144 Token |
|
||||
| Uncensored | 80.000 Token |
|
||||
|
||||
Die visuelle Fassung liegt als `athena-architecture-map.png` neben dieser Datei.
|
||||
Reference in new issue
Block a user