Tune prefill batching across Qwen profiles

This commit is contained in:
Mikei386
2026-09-15 16:57:53 +02:00
parent 78055996f5
commit b48fcc63d3
5 changed files with 37 additions and 12 deletions
+3
View File
@@ -49,3 +49,6 @@ sie alternativ als dokumentierte Referenz für vollständige systemd-Overrides
verwendet werden.
Der Profilwechsel erfolgt ausschließlich über `platform/scripts/llama-profile`.
Die produktiven Batch- und Micro-Batch-Werte samt Messungen stehen in
[docs/PREFILL_BATCH_TUNING_20260915.md](../../docs/PREFILL_BATCH_TUNING_20260915.md).