update

app.py

@@ -25,6 +25,7 @@ embedding_model_dict = {
 }
 
 llm_model_dict = {
+    "ChatGLM-6B-int8": "THUDM/chatglm-6b-int8",
     "ChatGLM-6B-int4": "THUDM/chatglm-6b-int4",
     "ChatGLM-6b-int4-qe": "THUDM/chatglm-6b-int4-qe",
     "Minimax": "Minimax"
@@ -223,7 +224,7 @@ if __name__ == "__main__":
                 
 
             with gr.Column(scale=4):
-                chatbot = gr.Chatbot(label='ChatLLM').style(height=400)
+                chatbot = gr.Chatbot(label='ChatLLM').style(height=600)
                 message = gr.Textbox(label='请输入问题')
                 state = gr.State()
 
@@ -252,9 +253,8 @@ if __name__ == "__main__":
                                    ],
                                    outputs=[message, chatbot, state])
         gr.Markdown("""提醒：<br>
-        1. 更改LLM模型前请先刷新页面，否则将返回error（后续将完善此部分）. <br>
-        2. 使用时请先上传自己的知识文件，并且文件中不含某些特殊字符，否则将返回error. <br>
-        3. 请勿上传或输入敏感内容，否则输出内容将被平台拦截返回error.<br>
-        4. 有任何使用问题，请通过[问题交流区](https://modelscope.cn/studios/thomas/ChatYuan-test/comment)或[Github Issue区](https://github.com/thomas-yanxin/LangChain-ChatGLM-Webui/issues)进行反馈. <br>
+        1. 使用时请先上传自己的知识文件，并且文件中不含某些特殊字符，否则将返回error. <br>
+        2. 请勿上传或输入敏感内容，否则输出内容将被平台拦截返回error.<br>
+        3. 有任何使用问题，请通过[问题交流区](https://modelscope.cn/studios/thomas/ChatYuan-test/comment)或[Github Issue区](https://github.com/thomas-yanxin/LangChain-ChatGLM-Webui/issues)进行反馈. <br>
         """)
     demo.queue().launch(server_name='0.0.0.0', share=False)

requirements.txt

@@ -1,4 +1,4 @@
-torch
+torch==1.12.0
 langchain
 accelerate
 duckduckgo_search
@@ -14,4 +14,4 @@ faiss-cpu
 gradio
 nltk
 accelerate
-#detectron2@git+https://github.com/facebookresearch/[email protected]#egg=detectron2
+detectron2@git+https://github.com/facebookresearch/[email protected]#egg=detectron2