File size: 463 Bytes
6e2cf90 4b72b29 6e2cf90 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 |
---
license: llama3
language:
- en
- ja
---
# Llama-3-youko-8b-instruct-chatvector-gguf
[aixsatoshiさんが公開しているLlama-3-youko-8b-instruct-chatvector](https://huggingface.co/aixsatoshi/Llama-3-youko-8b-instruct-chatvector)のggufフォーマット変換版です。
## Usage
```
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make -j
./main -m ../llama-3-youko-8b-instruct-chatvector-q8_0.gguf -p 'こんちゃっす' -n 128
``` |