Show Qwen profile contexts in architecture map
This commit is contained in:
@@ -32,4 +32,18 @@ flowchart LR
|
||||
begrenzt.
|
||||
- Der Router ist die einzige Modelladresse, die Hermes kennen muss.
|
||||
|
||||
## Dynamische Qwen-Profile
|
||||
|
||||
Der Profile Router hält immer nur ein Qwen-Profil aktiv. Ein Wechsel lädt
|
||||
dasselbe 27B-Modell mit der zum Profil gehörenden GPU-Aufteilung und
|
||||
Kontextgröße:
|
||||
|
||||
| Profil | Kontextfenster |
|
||||
| --- | ---: |
|
||||
| Fast | 76.800 Token |
|
||||
| Medium | 160.000 Token |
|
||||
| Large | 192.000 Token |
|
||||
| Ultra | 262.144 Token |
|
||||
| Uncensored | 80.000 Token |
|
||||
|
||||
Die visuelle Fassung liegt als `athena-architecture-map.png` neben dieser Datei.
|
||||
|
||||
Binary file not shown.
|
Before Width: | Height: | Size: 1.5 MiB After Width: | Height: | Size: 1.5 MiB |
Reference in New Issue
Block a user