Tune prefill batching across Qwen profiles
This commit is contained in:
@@ -49,3 +49,6 @@ sie alternativ als dokumentierte Referenz für vollständige systemd-Overrides
|
||||
verwendet werden.
|
||||
|
||||
Der Profilwechsel erfolgt ausschließlich über `platform/scripts/llama-profile`.
|
||||
|
||||
Die produktiven Batch- und Micro-Batch-Werte samt Messungen stehen in
|
||||
[docs/PREFILL_BATCH_TUNING_20260915.md](../../docs/PREFILL_BATCH_TUNING_20260915.md).
|
||||
|
||||
Reference in New Issue
Block a user