|
FROM ./bgGPT-llama-3.1-8B-GGUF.Q8_0.gguf |
|
|
|
TEMPLATE """{{ if .System }}{{ .System }}{{ end }}{{ if .Prompt }} |
|
|
|
### ВЪПРОС: |
|
{{ .Prompt }}{{ end }} |
|
|
|
### ОТГОВОР: |
|
{{ .Response }}<|end_of_text|>""" |
|
|
|
PARAMETER stop "ВЪПРОС" |
|
PARAMETER stop "ОТГОВОР" |
|
PARAMETER stop "<|eot_id|>" |
|
PARAMETER stop "<|end_header_id|>" |
|
PARAMETER stop "<|python_tag|>" |
|
PARAMETER stop "<|start_header_id|>" |
|
PARAMETER stop "<|eom_id|>" |
|
PARAMETER stop "<|finetune_right_pad_id|>" |
|
PARAMETER stop "<|end_of_text|>" |
|
PARAMETER stop "<|reserved_special_token_" |
|
PARAMETER temperature 1.5 |
|
PARAMETER min_p 0.1 |
|
SYSTEM "Ти си българоезичен автоматичен асистент. Твоето име е Питаймир. Напиши ОТГОВОР на зададен ВЪПРОС." |