winninghealth commited on
Commit
3fd192c
1 Parent(s): 929d1f1

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +18 -1
README.md CHANGED
@@ -12,6 +12,23 @@ tags:
12
  [WiNGPT](https://github.com/winninghealth/WiNGPT2) 是一个基于GPT的医疗垂直领域大模型,旨在将专业的医学知识、医疗信息、数据融会贯通,为医疗行业提供智能化的医疗问答、诊断支持和医学知识等信息服务,提高诊疗效率和医疗服务质量。
13
 
14
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
15
  ## 介绍
16
 
17
  WiNGPT(卫宁健康医疗语言大模型,以下简称WiNGPT)的研发和训练工作开始于2023年1月。
@@ -71,6 +88,7 @@ output = tokenizer.decode(outputs[0])
71
  response = output.replace(inputs, '')
72
  ## 输出结果:你好!今天我能为你做些什么?<|endoftext|>
73
  ```
 
74
 
75
  ### 提示
76
 
@@ -84,7 +102,6 @@ WiNGPT2-7B-Chat使用了自定义的提示格式:
84
  "User: WiNGPT, 你好<|endoftext|>\n Assistant:你好!今天我能为你做些什么?<|endoftext|>\n User: 你是谁?<|endoftext|>\n Assistant:"
85
  ```
86
 
87
- 解码时推荐使用repetition_penalty=1.1 [greedy search]
88
  ### 企业服务
89
  [13B模型平台测试(直接申请密钥)](https://wingpt.winning.com.cn/)
90
  ## 训练数据
 
12
  [WiNGPT](https://github.com/winninghealth/WiNGPT2) 是一个基于GPT的医疗垂直领域大模型,旨在将专业的医学知识、医疗信息、数据融会贯通,为医疗行业提供智能化的医疗问答、诊断支持和医学知识等信息服务,提高诊疗效率和医疗服务质量。
13
 
14
 
15
+ ## 更新日志
16
+
17
+ [2024/02/27] 新增 WiNGPT2 量化(int4)模型,[🤗WiNGPT2-7B-Chat-AWQ](https://huggingface.co/winninghealth/WiNGPT2-7B-Chat-AWQ) 和 [🤗WiNGPT2-14B-Chat-AWQ](https://huggingface.co/winninghealth/WiNGPT2-14B-Chat-AWQ)。
18
+
19
+ [2023/12/20] 新增用户微信群二维码,有效期到12月27日,扫码进群。
20
+
21
+ [2023/12/18] 发布卫宁健康医疗模型测评方案 WiNEval-MCKQuiz的评测结果。
22
+
23
+ [2023/12/12] 开源 WiNGPT2 14B模型权重: 🤗WiNGPT2-14B-Base 和 🤗WiNGPT2-14B-Chat。
24
+
25
+ [2023/11/02] 34B模型平台测试 和 欢迎加入微信讨论群
26
+
27
+ [2023/10/13] 更新一个简单的Chatbot示例,可以进行简单的多轮对话。
28
+
29
+ [2023/09/26] 开源 WiNGPT2 与7B模型权重: 🤗WiNGPT2-7B-Base 和 🤗WiNGPT2-7B-Chat。
30
+
31
+
32
  ## 介绍
33
 
34
  WiNGPT(卫宁健康医疗语言大模型,以下简称WiNGPT)的研发和训练工作开始于2023年1月。
 
88
  response = output.replace(inputs, '')
89
  ## 输出结果:你好!今天我能为你做些什么?<|endoftext|>
90
  ```
91
+ **推荐使用[vllm](https://github.com/vllm-project/vllm)推理框架进行部署**
92
 
93
  ### 提示
94
 
 
102
  "User: WiNGPT, 你好<|endoftext|>\n Assistant:你好!今天我能为你做些什么?<|endoftext|>\n User: 你是谁?<|endoftext|>\n Assistant:"
103
  ```
104
 
 
105
  ### 企业服务
106
  [13B模型平台测试(直接申请密钥)](https://wingpt.winning.com.cn/)
107
  ## 训练数据