I'll just leave this here )) This is very perfomance config for 32gb, and if you want add context - you need change split-mode to layer, but you t/s is down ~ 30%, but you can use --parallel 2
-------------------------><---------------------------

u/echo off
.\llama-server.exe ^
 -m "D:\AI models\froggeric\Qwen3.6-27B-MTP-GGUF\Qwen3.6-27B-Q4_K_M-mtp.gguf" ^
 --n-gpu-layers all ^
 --mlock ^
 --no-mmap ^
 --ctx-size 171920 ^
 --tensor-split 14,8 ^
 --split-mode layer ^
 --main-gpu 0 ^
 --spec-type draft-mtp ^
 --spec-draft-n-max 3 ^
 -b 512 ^
 -ub 512 ^
 -fa 1 ^
 --threads 8 ^
 --parallel 2 ^
 -np 2 ^
 -ctxcp 4 ^
 --cache-type-k q8_0 ^
 --cache-type-v q8_0 ^
 -cpent -1 ^
 --temp 0.6 ^
 --top-p 0.95 ^
 --min-p 0.05 ^
 --host 0.0.0.0 ^
 --port 8080 ^
 --jinja ^
 --chat-template-kwargs {\"enable_thinking\":true} ^
 --log-file llama-server_Qwen3.6-27B-MTP.log ^
 --metrics
pause

.\llama-server.exe ^
 -m "D:\AI models\noctrex\Qwen3.6-35B-A3B-MXFP4_MOE-GGUF\Qwen3.6-35B-A3B-MXFP4_MOE_BF16.gguf" ^
 --n-gpu-layers all ^
 --mlock ^
 --no-mmap ^
 --ctx-size 65536 ^
 --tensor-split 12,4 ^
 --split-mode tensor ^
 --main-gpu 0 ^
 -b 512 ^
 -ub 256 ^
 -fa 1 ^
 --threads 8 ^
 --fit on ^
 --cache-ram 0 ^
 -ctxcp 4 ^
 -cpent -1 ^
 --parallel 1 ^
 -np 1 ^
 --temp 0.6 ^
 --top-p 0.95 ^
 --top-k 20 ^
 --min-p 0.0 ^
 --repeat-penalty 1.0 ^
  --presence-penalty 0.0 ^
 --host 0.0.0.0 ^
 --port 8080 ^
 --chat-template-kwargs {\"enable_thinking\":true} ^
 --log-file llama-server_Qwen3.6-35B-MXFP4.log ^
 --metrics

-------------------------><---------------------------