7 lines
276 B
Bash
7 lines
276 B
Bash
PORT=3000
|
|
# Используем прямые слеши или двойные обратные
|
|
MODEL_PATH=./model/Vikhr-Qwen-2.5-0.5b-Instruct-Q3_K_M.gguf
|
|
# Размер контекстного окна
|
|
CONTEXT_SIZE=2048
|
|
# Температура модели
|
|
TEMPERATURE=0.7 |