Show Qwen profile contexts in architecture map
This commit is contained in:
@@ -32,4 +32,18 @@ flowchart LR
|
|||||||
begrenzt.
|
begrenzt.
|
||||||
- Der Router ist die einzige Modelladresse, die Hermes kennen muss.
|
- Der Router ist die einzige Modelladresse, die Hermes kennen muss.
|
||||||
|
|
||||||
|
## Dynamische Qwen-Profile
|
||||||
|
|
||||||
|
Der Profile Router hält immer nur ein Qwen-Profil aktiv. Ein Wechsel lädt
|
||||||
|
dasselbe 27B-Modell mit der zum Profil gehörenden GPU-Aufteilung und
|
||||||
|
Kontextgröße:
|
||||||
|
|
||||||
|
| Profil | Kontextfenster |
|
||||||
|
| --- | ---: |
|
||||||
|
| Fast | 76.800 Token |
|
||||||
|
| Medium | 160.000 Token |
|
||||||
|
| Large | 192.000 Token |
|
||||||
|
| Ultra | 262.144 Token |
|
||||||
|
| Uncensored | 80.000 Token |
|
||||||
|
|
||||||
Die visuelle Fassung liegt als `athena-architecture-map.png` neben dieser Datei.
|
Die visuelle Fassung liegt als `athena-architecture-map.png` neben dieser Datei.
|
||||||
|
|||||||
Binary file not shown.
|
Before Width: | Height: | Size: 1.5 MiB After Width: | Height: | Size: 1.5 MiB |
Reference in New Issue
Block a user