File size: 344 Bytes
e77c482 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 |
FROM models/Index-1.9B-Chracter-gguf/ggml-model-Q6_K.gguf
PARAMETER temperature 0.3
PARAMETER top_p 0.8
PARAMETER repeat_penalty 1.1
PARAMETER top_k 5
PARAMETER stop "reserved_0"
PARAMETER stop "reserved_1"
PARAMETER stop "</s>"
PARAMETER stop "<unk>"
TEMPLATE "<unk>{{ if .System }}{{ .System }}{{ end }}reserved_0{{ .Prompt }}reserved_1"
|