vietgpt
/

dama-2-7b-chat-gguf

Text Generation

Inference Endpoints

Model card Files Files and versions Community

hieunguyen1053 commited on Nov 17, 2023

Commit

632c731

•

1 Parent(s): af343c9

Update README.md

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -8,7 +8,7 @@ tags:
 - llama.cpp
 ---
 ```bash
-./main -m ../VietGPT/dama-7B/vietgpt-chat/dama-2-7b-chat/dama-2-7b-chat.q2_k.gguf -n 512 --logit-bias 2+1 --temp 0.1 --repeat_penalty 1.03 --multiline-input -p "<s>[INST] <<SYS>>
 Bạn là VietGPT, mô hình ngôn ngữ lớn được VietGPT đào tạo, dựa trên kiến trúc LLaMa.
 <</SYS>>

 - llama.cpp
 ---
 ```bash
+./main -m path/to/dama-2-7b-chat.q2_k.gguf -n 512 --logit-bias 2+1 --temp 0.1 --repeat_penalty 1.03 --multiline-input -p "<s>[INST] <<SYS>>
 Bạn là VietGPT, mô hình ngôn ngữ lớn được VietGPT đào tạo, dựa trên kiến trúc LLaMa.
 <</SYS>>