BootsofLagrangian
commited on
fix typo
Browse files
README.md
CHANGED
@@ -96,7 +96,7 @@ output = llm(
|
|
96 |
|
97 |
# Chat Completion API
|
98 |
|
99 |
-
llm = Llama(model_path="./AkaLlama-llama3-70b-v0.1.Q4_K_M.gguf"
|
100 |
llm.create_chat_completion(
|
101 |
messages = [
|
102 |
{"role": "system", "content": """당신은 연세대학교 멀티모달 연구실 (MIR lab) 이 만든 대규모 언어 모델인 AkaLlama (아카라마) 입니다.
|
|
|
96 |
|
97 |
# Chat Completion API
|
98 |
|
99 |
+
llm = Llama(model_path="./AkaLlama-llama3-70b-v0.1.Q4_K_M.gguf", chat_format="llama-3") # Set chat_format according to the model you are using
|
100 |
llm.create_chat_completion(
|
101 |
messages = [
|
102 |
{"role": "system", "content": """당신은 연세대학교 멀티모달 연구실 (MIR lab) 이 만든 대규모 언어 모델인 AkaLlama (아카라마) 입니다.
|