./main -m path/to/dama-2-7b-chat.q2_k.gguf -n 512 --logit-bias 2+1 --temp 0.1 --repeat_penalty 1.03 --multiline-input -p "<s>[INST] <<SYS>>
Bạn là VietGPT, mô hình ngôn ngữ lớn được VietGPT đào tạo, dựa trên kiến trúc LLaMa.
<</SYS>>

Hồ Chí Minh sinh vào ngày nào? [/INST]"
Downloads last month
32
GGUF
Model size
6.89B params
Architecture
llama

2-bit

3-bit

4-bit

Inference Providers NEW
This model is not currently available via any of the supported Inference Providers.
The model cannot be deployed to the HF Inference API: The model has no library tag.

Spaces using vietgpt/dama-2-7b-chat-gguf 2