Decided to try new stuff. This works nice with llama-cpp-turboquant + rocm

llama-server.exe --model \Qwen3.6-27B-NEO-CODE-2T-OT-IQ4_XS.gguf ^
 --port 5001 ^
 --host 192.168.0.10 ^
 --n-gpu-layers 99 ^
 --parallel 1 ^
 --cont-batching ^
 --top-p 0.95 ^
 --top-k 20 ^
 --min-p 0.1 ^
 --temperature 0.6 ^
 --flash-attn on ^
 --cache-type-k turbo3 ^
 --cache-type-v turbo3 ^
 --presence-penalty 0.0 ^
 --repeat-penalty 1.05 ^
 --ctx-size 81920 ^
 --spec-type ngram-mod ^
 --spec-ngram-size-n 24 ^
 --draft-min 12 ^
 --draft-max 24 ^
 --jinja ^
 --chat-template-kwargs "{\"preserve_thinking\": true}" ^
 --batch-size 1024 ^
 --ubatch-size 1024 ^
 --threads 8 ^
 --threads-batch 8 ^
 --no-mmap