update readme
Browse files
README.md
CHANGED
@@ -263,7 +263,7 @@ print(response)
|
|
263 |
或者你可以使用以下命令启动兼容 OpenAI API 的服务:
|
264 |
|
265 |
```bash
|
266 |
-
lmdeploy serve api_server internlm/internlm2_5-20b-chat --server-port 23333
|
267 |
```
|
268 |
|
269 |
然后你可以向服务端发起一个聊天请求:
|
@@ -291,7 +291,7 @@ pip install vllm
|
|
291 |
```
|
292 |
|
293 |
```bash
|
294 |
-
python -m vllm.entrypoints.openai.api_server --model internlm/internlm2_5-20b-chat --trust-remote-code
|
295 |
```
|
296 |
|
297 |
然后你可以向服务端发起一个聊天请求:
|
|
|
263 |
或者你可以使用以下命令启动兼容 OpenAI API 的服务:
|
264 |
|
265 |
```bash
|
266 |
+
lmdeploy serve api_server internlm/internlm2_5-20b-chat --model-name internlm2_5-20b-chat --server-port 23333
|
267 |
```
|
268 |
|
269 |
然后你可以向服务端发起一个聊天请求:
|
|
|
291 |
```
|
292 |
|
293 |
```bash
|
294 |
+
python -m vllm.entrypoints.openai.api_server --model internlm/internlm2_5-20b-chat --served-model-name internlm2_5-20b-chat --trust-remote-code
|
295 |
```
|
296 |
|
297 |
然后你可以向服务端发起一个聊天请求:
|