internlm
/

internlm2_5-20b-chat

Text Generation

feature-extraction

Model card Files Files and versions

RangiLyu commited on Aug 1, 2024

Commit

35f8c15

·

1 Parent(s): ee1be2b

update readme

Files changed (1) hide show

README.md +2 -2

README.md CHANGED Viewed

@@ -263,7 +263,7 @@ print(response)
 或者你可以使用以下命令启动兼容 OpenAI API 的服务:
 ```bash
-lmdeploy serve api_server internlm/internlm2_5-20b-chat --server-port 23333
 ```
 然后你可以向服务端发起一个聊天请求:
@@ -291,7 +291,7 @@ pip install vllm
 ```
 ```bash
-python -m vllm.entrypoints.openai.api_server --model internlm/internlm2_5-20b-chat --trust-remote-code
 ```
 然后你可以向服务端发起一个聊天请求:

 或者你可以使用以下命令启动兼容 OpenAI API 的服务:
 ```bash
+lmdeploy serve api_server internlm/internlm2_5-20b-chat --model-name internlm2_5-20b-chat --server-port 23333
 ```
 然后你可以向服务端发起一个聊天请求:
 ```
 ```bash
+python -m vllm.entrypoints.openai.api_server --model internlm/internlm2_5-20b-chat --served-model-name internlm2_5-20b-chat --trust-remote-code
 ```
 然后你可以向服务端发起一个聊天请求: