license: llama3 | |
language: | |
- en | |
- ja | |
# Llama-3-youko-8b-instruct-chatvector-gguf | |
[aixsatoshiさんが公開しているPhi-3-mini-128k-instruct](aixsatoshi/Llama-3-youko-8b-instruct-chatvector)のggufフォーマット変換版です。 | |
## Usage | |
``` | |
git clone https://github.com/ggerganov/llama.cpp.git | |
cd llama.cpp | |
make -j | |
./main -m ../llama-3-youko-8b-instruct-chatvector-q8_0.gguf -p 'こんちゃっす' -n 128 | |
``` |