Spaces:
Runtime error
Runtime error
Update app.py
Browse files
app.py
CHANGED
@@ -573,7 +573,7 @@ def allSecretary(
|
|
573 |
history,
|
574 |
past_key_values,
|
575 |
)
|
576 |
-
|
577 |
redBookins = """
|
578 |
1、如果用户没有输入,请你告诉他:请输入你想写的内容
|
579 |
2、收到用户输入,按照下面是小红书帖子进行编写:
|
@@ -604,8 +604,8 @@ redBookins = """
|
|
604 |
用户输入:
|
605 |
|
606 |
"""
|
607 |
-
|
608 |
-
redBookins="请你用最华丽、最真诚和最有感情的语言祝:顺欣妈妈、昊昊爸爸、昊昊生日快乐!请大量的使用🎂、❤️、💖、🥳、🥂、🎈、🎊、🎉、🎁、🍾等表示庆祝的的Emoji"
|
609 |
def redBook(
|
610 |
user_input, chatbot, max_length, top_p, temperature, history, past_key_values
|
611 |
):
|
@@ -697,11 +697,6 @@ def mindAsk(
|
|
697 |
from bs4 import BeautifulSoup
|
698 |
import requests
|
699 |
|
700 |
-
# 导入所需模块
|
701 |
-
|
702 |
-
from bs4 import BeautifulSoup
|
703 |
-
import requests
|
704 |
-
|
705 |
keywords_to_check = [
|
706 |
"首页推荐",
|
707 |
"业务合作",
|
@@ -717,6 +712,12 @@ keywords_to_check = [
|
|
717 |
"举报",
|
718 |
"广告投放",
|
719 |
"营业执照",
|
|
|
|
|
|
|
|
|
|
|
|
|
720 |
]
|
721 |
|
722 |
|
@@ -730,6 +731,7 @@ def scrape_text(url, proxies) -> str:
|
|
730 |
返回:
|
731 |
str: 抓取到的文本,每个 URL 最多保留前三行内容
|
732 |
"""
|
|
|
733 |
headers = {
|
734 |
'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.61 Safari/537.36',
|
735 |
'Content-Type': 'text/plain',
|
@@ -757,11 +759,11 @@ def scrape_text(url, proxies) -> str:
|
|
757 |
# 去除多余的空格
|
758 |
cleaned_line = ' '.join(line.split())
|
759 |
line_length = len(cleaned_line)
|
760 |
-
if line_length >=
|
761 |
if not any(keyword in cleaned_line for keyword in keywords_to_check):
|
762 |
# 如果不包含关键词,保留这一行
|
763 |
selected_lines.append(cleaned_line)
|
764 |
-
# 如果行字符数大于等于
|
765 |
if line_length > max_line_length:
|
766 |
# 如果当前行字符数比最长行字符数还大,更新最长行字符数和选中行列表
|
767 |
max_line_length = line_length
|
@@ -789,15 +791,15 @@ def GGSearch(
|
|
789 |
|
790 |
# 使用用户输入进行联网搜索
|
791 |
url = f"https://www.google.com/search?q={user_input}"
|
|
|
792 |
#url = f"https://www.sogou.com/web?query={user_input}"
|
793 |
'''
|
794 |
headers = {
|
795 |
'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.61 Safari/537.36'
|
796 |
}
|
797 |
'''
|
798 |
-
headers = {
|
799 |
-
|
800 |
-
}
|
801 |
try:
|
802 |
response = requests.get(url, headers=headers)
|
803 |
soup = BeautifulSoup(response.content, 'html.parser')
|
@@ -846,6 +848,207 @@ def GGSearch(
|
|
846 |
past_key_values=None,
|
847 |
)
|
848 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
849 |
|
850 |
|
851 |
|
@@ -854,32 +1057,9 @@ with gr.Blocks(title="🐰Bofan Ai🐰", theme=gr.themes.Soft(text_size="sm")) a
|
|
854 |
gr.HTML(
|
855 |
"""<center><a href="https://huggingface.co/spaces/mikeee/chatglm2-6b-4bit?duplicate=true"><img src="https://bit.ly/3gLdBN6" alt="Duplicate Space"></a>It's beyond Fitness,模型由[帛凡]基于ChatGLM-6B进行微调后,在健康(全科)、心理等领域达至少60分的专业水准,而且中文总结能力超越了GPT3.5各版本。</center>"""
|
856 |
"""<center>特别声明:本应用仅为模型能力演示,无任何商业行为,部署资源为Huggingface官方免费提供,任何通过此项目产生的知识仅用于学术参考,作者和网站均不承担任何责任。</center>"""
|
857 |
-
"""<h1 align="center">🐰帛凡 Fitness AI🐰
|
858 |
"""<center><a href="https://huggingface.co/fb700/chatglm-fitness-RLHF">Bofan基于chatglm-6B的微调模型</a>如果喜欢请给个 💖 。遇到任何问题可邮件和我联系👉 [email protected]</center>"""
|
859 |
)
|
860 |
-
|
861 |
-
with gr.Accordion("🎈 相关信息", open=False):
|
862 |
-
_ = f"""
|
863 |
-
## {model_name}
|
864 |
-
|
865 |
-
ChatGLM-6B 是开源中英双语对话模型,本次训练基于ChatGLM-6B 的第一代版本,在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上开展训练。
|
866 |
-
|
867 |
-
本项目通过多位网友实测,证明了���中文总结能力超越了GPT3.5的各个版本,同时在健康咨询方面的表现也比其他同量级模型更加出色。经过优化,该模型可以支持无限上下文,远超过4K、8K、16K等限制,这可能是个人和中小企业的首选模型。
|
868 |
-
|
869 |
-
* 使用 40 万条高质量数据进行强化训练,以提高模型的基础能力;
|
870 |
-
* 使用 30 万条人类反馈数据,构建了一个表达方式规范优雅的语言模式(RM模型);
|
871 |
-
* 使用 30 万条 fitness 数据,在保留 SFT 阶段三分之一训练数据的同时,增加了 30 万条 fitness 数据,叠加了RM模型,对 ChatGLM-6B 进行强化训练。
|
872 |
-
经过训练,我们对模型有了更深入的认知,LLM一直在进化。使用好的方法和数据可以挖掘出模型的更大潜能。训练中特别强化了中英文学术论文的翻译和总结,可以成为普通用户和科研人员的得力助手
|
873 |
-
|
874 |
-
免责声明:本应用旨在展示huggingface模型的能力,huggingface官方提供免费的部署资源。任何通过此项目产生的知识仅用于学术参考,作者和网站均不承担任何责任。 。
|
875 |
-
|
876 |
-
The T4 GPU is sponsored by a community GPU grant from Huggingface. Thanks a lot!
|
877 |
-
|
878 |
-
[模型下载地址](https://huggingface.co/fb700/chatglm-fitness-RLHF)
|
879 |
-
|
880 |
-
|
881 |
-
"""
|
882 |
-
gr.Markdown(dedent(_))
|
883 |
chatbot = gr.Chatbot()
|
884 |
with gr.Row():
|
885 |
with gr.Column(scale=4):
|
@@ -895,28 +1075,6 @@ with gr.Blocks(title="🐰Bofan Ai🐰", theme=gr.themes.Soft(text_size="sm")) a
|
|
895 |
submitBtn = gr.Button("发送Submit", variant="primary")
|
896 |
deleteBtn = gr.Button("删除最后一条对话", variant="secondary")
|
897 |
retryBtn = gr.Button("重新生成Regenerate", variant="secondary")
|
898 |
-
with gr.Row():
|
899 |
-
findpictureBtn = gr.Button("找图片", variant="primary")
|
900 |
-
textadventureBtn = gr.Button("⚡文字冒险游戏", variant="secondary")
|
901 |
-
mindmapBtn = gr.Button("思维导图", variant="secondary")
|
902 |
-
flowchartBtn = gr.Button("流程图", variant="secondary")
|
903 |
-
with gr.Row():
|
904 |
-
bestPaperZhBtn = gr.Button("中文学术润色", variant="primary")
|
905 |
-
bestPaperEnBtn = gr.Button("英文学术润色", variant="secondary")
|
906 |
-
Zh2EnBtn = gr.Button("🔤中译英", variant="secondary")
|
907 |
-
En2ZhBtn = gr.Button("英译中", variant="secondary")
|
908 |
-
askManBtn = gr.Button("出题助手", variant="secondary")
|
909 |
-
with gr.Row():
|
910 |
-
txtSumBtn = gr.Button("文字总结", variant="primary")
|
911 |
-
teachPlanBtn = gr.Button("教案编写", variant="secondary")
|
912 |
-
allSecretaryBtn = gr.Button("全能文秘", variant="secondary")
|
913 |
-
#redBookBtn = gr.Button("📕小红书帖子", variant="secondary")
|
914 |
-
redBookBtn = gr.Button("🎂生日快乐🎂", variant="secondary")
|
915 |
-
with gr.Row():
|
916 |
-
fitnessAskBtn = gr.Button("🥼健康咨询", variant="primary")
|
917 |
-
mindAskBtn = gr.Button("😶🌫️心理咨询", variant="primary")
|
918 |
-
GGSearchBtn = gr.Button("🐞联网搜索", variant="primary")
|
919 |
-
|
920 |
with gr.Column(scale=1):
|
921 |
gr.HTML("""<h3 align="center">🍀您好,除健康咨询和心理咨询外,其它功能使用前,请先清空历史,并输入问题。🍀</h3>""")
|
922 |
emptyBtn = gr.Button("清空对话Clear History")
|
@@ -935,7 +1093,182 @@ with gr.Blocks(title="🐰Bofan Ai🐰", theme=gr.themes.Soft(text_size="sm")) a
|
|
935 |
0.01, 1, value=0.85, step=0.01, label="Temperature", interactive=True
|
936 |
)
|
937 |
gr.HTML("""<h3 align="center">🍀健康和心理咨询请先点击,再输入问题。<a href="https://huggingface.co/fb700/chatglm-fitness-RLHF">模型由🐰帛凡基于chatglm-6微调</a>🍀</h3>""")
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
938 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
939 |
history = gr.State([])
|
940 |
past_key_values = gr.State(None)
|
941 |
|
@@ -1265,112 +1598,101 @@ with gr.Blocks(title="🐰Bofan Ai🐰", theme=gr.themes.Soft(text_size="sm")) a
|
|
1265 |
# outputs = [chatbot, history, last_user_message, user_message]
|
1266 |
outputs=[chatbot, history, past_key_values],
|
1267 |
)
|
1268 |
-
|
1269 |
-
deleteBtn.click(delete_last_turn, [chatbot, history], [chatbot, history])
|
1270 |
|
1271 |
-
|
1272 |
-
|
1273 |
-
|
1274 |
-
|
1275 |
-
|
1276 |
-
|
1277 |
-
|
1278 |
-
|
1279 |
-
|
1280 |
-
|
1281 |
-
|
1282 |
-
|
1283 |
-
|
1284 |
-
|
1285 |
-
|
1286 |
-
|
1287 |
-
|
1288 |
-
[f"{etext0}"],
|
1289 |
-
[f"{etext2}" ],
|
1290 |
-
["'根据所给内容:英语学习,以markmap代码生成足够深度以包含尽量多主要细节的思维导图。在输出内容的最后另起一行,写上:请复制生成内容至https://markmap.js.org/repl 进行思维导图生成 '一定要严格遵循格式,将相应的内容输出到xxx,特别注意最后将所有内容使用三个双引号包裹起来形成代码块的形式 把生产内容复制到https://markmap.js.org/repl'"],
|
1291 |
-
['"我需要你根据所给内容相关的题目:地球的构造和分层,要求通过题目可以掌握相关知识点,难度分为简单、一般、困难。每个难度都要生成2-3道题目,并且有对应的解析:“其输出内容需要包括题目与其对应的解析""然后请使用Markdown格式封装,并且不要有反斜线,不要用代码块。现在,请按以下描述给我发送相关题目"'],
|
1292 |
-
['请按照下面的内容输出教案:分数认识和计算 "你作为一位教师助理,需要为教师的课程设计提供创意思路,协助检索和整理文献资料,生成完整的课程材料,如教学大纲、课程计划和阅读材料。" "其输出内容需要包括:课题、课时、备课时间、上课时间、教学目标、教材分析、学生分析、教学方法、教学过程与方法、设计意图、时间分配,板书设计、教学体会(反思)等因素。" "教案设计既要有逻辑性,又要有灵活性;突出特色,尤其要体现学科特点;既要有层次感;既合理又合情,且符合认知规律。使教案符合学生的实际情况,而不应该是让学生适应教案。" "然后请使用Markdown格式封装,并且不要有反斜线,不要用代码块。"'],
|
1293 |
-
["系统性红斑狼疮的危害和治疗方法是什么?"],
|
1294 |
-
[f"{etext1} 总结这篇文章的主要内容和文章结构,内容要求尽量简洁"],
|
1295 |
-
[" 总结下面这篇文章的主要内容和文章结构,内容要求尽量简洁。“基辛格是目前唯一高龄100岁的、并且仍在影响世界历史进程的最长寿政治家。 7月18至21日,这位100岁的老人,成为中美两国瞩目的焦点人物。 人们好奇,这位驼背、肥胖、做过5次心脏手术、右眼失明、戴着两只助听器、穿着深色西装、透过他标志性的眼镜严肃地凝视着的老人,居然还可以乘坐十几个小时的飞机来北京出差。 而在短短的数天时间里,他的活动非常满,似乎并不受时差与年龄的影响。 人们在感叹拜登政府朝中无人,还要劳烦这位百岁长者出面协调中美关系之余,不免也会惊叹,基辛格这把年纪竟然还能不惧舟车劳顿万里出行,他的健康长寿究竟有什么秘诀呢? 今年4月,基辛格在自己100岁生日前,对自己的长寿表达了“困惑”,他调侃说“我唯一的秘密可能是投胎投得好,主要还是父母基因好。我继承了家族非同一般的长寿基因。我的母亲活到97岁,父亲活到95岁,弟弟活到96岁。当然,长寿非我刻意求之,不过我欣然接受。“ 基辛格即使年事已高,但他退而不休,近年依然会就包括中美关系在内的外交议题发表意见。他精力充沛,连新冠疫情也未令他放慢脚步。自2020年起,他写完了两本书,并开始写第三本。今年以来,他已乘飞机在全球15个地方举办活动,或会见政治人物。这次到访北京,更是他100多次到访中国。 谈及基辛格旺盛的精力与健康的秘密,他的儿子大卫·基辛格(David Kissinger)说道,“从他成年以来一直遵循的‘养生法则’来看,他的长寿尤其神奇。” 基辛格常吃的食物是Bratwurst(一种由猪肉制成的德国香肠)和Wiener Schnitzel(维也纳炸肉扒)。基辛格参与的几乎所有的重大外交决定,也都是在压力下做决策。虽然他曾在1978年担任北美足球联盟主席,但他的爱好也仅限于旁观,并不喜欢下场运动。基辛格唯一的爱好可能就是下国际象棋,如果这也算运动的话。 这位百岁老人的长寿指南名单里,似乎还要加上:熬夜、喝���、油炸食品…… 更令人感到不可思议的是,这位精力充沛每天工作15小时的老人,还是一位病人。 基辛格有40多年的心脏病史。 1982年2月,58岁的亨利·基辛格接受了3次冠状动脉搭桥手术,其后在2005年又接受了血管成形术。 2014年7月15日,91岁的基辛格在纽约长老会医院接受了主动脉瓣置换手术。主动脉瓣膜置换是一种以人工瓣膜替换原有损伤或者异常心脏瓣膜的胸心血管外科手术。 我想我长寿的秘诀是,我有幸做一些我着迷的事情,我可以参与其中。我还没有退休,也不打算退休。我要研究我认为重要的问题,这就是我还在工作的目的。”"],
|
1296 |
-
["系统性红斑狼疮的危害和治疗方法是什么?"],
|
1297 |
-
[
|
1298 |
-
"我经常感觉郁闷,而且控制不住情绪,经常对周围的人喊叫,怎么办?"
|
1299 |
-
],
|
1300 |
-
["熬夜对身体有什么危害? "],
|
1301 |
-
["新冠肺炎怎么预防"],
|
1302 |
-
[
|
1303 |
-
"我经常感觉郁闷,而且控制不住情绪,经常对周围的人喊叫,怎么办?"
|
1304 |
-
],
|
1305 |
-
["太阳为什么会发热? "],
|
1306 |
-
["指南针是怎么工作的?"],
|
1307 |
-
["在野外怎么辨别方向?"],
|
1308 |
-
[
|
1309 |
-
"发芽的土豆还能不能吃?"
|
1310 |
-
],
|
1311 |
-
["What NFL team won the Super Bowl in the year Justin Bieber was born? "],
|
1312 |
-
["What NFL team won the Super Bowl in the year Justin Bieber was born? Think step by step."],
|
1313 |
-
["Explain the plot of Cinderella in a sentence."],
|
1314 |
-
[
|
1315 |
-
"How long does it take to become proficient in French, and what are the best methods for retaining information?"
|
1316 |
-
],
|
1317 |
-
["What are some common mistakes to avoid when writing code?"],
|
1318 |
-
["Build a prompt to generate a beautiful portrait of a horse"],
|
1319 |
-
["Suggest four metaphors to describe the benefits of AI"],
|
1320 |
-
["Write a pop song about leaving home for the sandy beaches."],
|
1321 |
-
["Write a summary demonstrating my ability to tame lions"],
|
1322 |
-
["有三个盒子,分别贴着“苹果”、“橘子”和“苹果和橘子”的标签,但是每个盒子的标签都是错误的。你只能打开一个盒子,然后从里面拿出一个水果,然后确定每个盒子里装的是什么水果。你应该打开哪个盒子?为什么?"],
|
1323 |
-
["春天来了,万物复苏,小鸟歌唱,生机勃勃。\n问题:以上文本表达的情绪是正向还是负向?"],
|
1324 |
-
["正无穷大加一大于正无穷大吗?"],
|
1325 |
-
["正无穷大加正无穷大大于正无穷大吗?"],
|
1326 |
-
["以今天对应的节气写一副对联"],
|
1327 |
-
["树上有5只鸟,猎人开枪打死了一只。树上还有几只鸟?Think step by step."],
|
1328 |
-
["从零学习编程,请给我一个三个月的学习计划。"],
|
1329 |
-
["双喜临门,打一中国地名"],
|
1330 |
-
["以红楼梦的行文风格写一张委婉的请假条。不少于320字。"],
|
1331 |
-
[f"{etext1} 总结这篇文章的主要内容和文章结构"],
|
1332 |
-
[f"{etext} 翻成中文,列出3个版本"],
|
1333 |
-
[f"{etext} \n 翻成中文,保留原意,但使用文学性的语言。不要写解释。列出3个版本"],
|
1334 |
-
["js 判断一个数是不是质数"],
|
1335 |
-
["js 实现python 的 range(10)"],
|
1336 |
-
["js 实现python 的 [*(range(10)]"],
|
1337 |
-
["假定 1 + 2 = 4, 试求 7 + 8,Think step by step." ],
|
1338 |
-
["2023年云南大学成立100周年,它是哪一年成立的?" ],
|
1339 |
-
["Erkläre die Handlung von Cinderella in einem Satz."],
|
1340 |
-
["Erkläre die Handlung von Cinderella in einem Satz. Auf Deutsch"],
|
1341 |
-
],
|
1342 |
-
inputs=[user_input],
|
1343 |
-
examples_per_page=50,
|
1344 |
-
)
|
1345 |
|
1346 |
-
|
1347 |
-
|
1348 |
-
tr_btn = gr.Button("Go", variant="primary")
|
1349 |
-
out_text = gr.Text()
|
1350 |
-
tr_btn.click(
|
1351 |
-
trans_api,
|
1352 |
-
[input_text, max_length, top_p, temperature],
|
1353 |
-
out_text,
|
1354 |
-
# show_progress="full",
|
1355 |
-
api_name="tr",
|
1356 |
)
|
1357 |
-
|
1358 |
-
|
1359 |
-
|
1360 |
-
|
1361 |
-
|
1362 |
-
|
1363 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1364 |
)
|
1365 |
-
# """
|
1366 |
|
1367 |
-
|
1368 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1369 |
|
1370 |
-
#
|
1371 |
-
#
|
1372 |
-
# leave one for api access
|
1373 |
-
# reduce to 5 if OOM occurs to often
|
1374 |
|
|
|
|
|
|
|
|
|
1375 |
#demo.queue(concurrency_count=6, max_size=30).launch(debug=True)
|
1376 |
demo.queue(concurrency_count=6, max_size=30).launch(debug=True, auth=eval(os.environ.get("AUTHENTICATION")))
|
|
|
573 |
history,
|
574 |
past_key_values,
|
575 |
)
|
576 |
+
|
577 |
redBookins = """
|
578 |
1、如果用户没有输入,请你告诉他:请输入你想写的内容
|
579 |
2、收到用户输入,按照下面是小红书帖子进行编写:
|
|
|
604 |
用户输入:
|
605 |
|
606 |
"""
|
607 |
+
|
608 |
+
#redBookins="请你用最华丽、最真诚和最有感情的语言祝:顺欣妈妈、昊昊爸爸、昊昊生日快乐!请大量的使用🎂、❤️、💖、🥳、🥂、🎈、🎊、🎉、🎁、🍾等表示庆祝的的Emoji"
|
609 |
def redBook(
|
610 |
user_input, chatbot, max_length, top_p, temperature, history, past_key_values
|
611 |
):
|
|
|
697 |
from bs4 import BeautifulSoup
|
698 |
import requests
|
699 |
|
|
|
|
|
|
|
|
|
|
|
700 |
keywords_to_check = [
|
701 |
"首页推荐",
|
702 |
"业务合作",
|
|
|
712 |
"举报",
|
713 |
"广告投放",
|
714 |
"营业执照",
|
715 |
+
"JavaScript",
|
716 |
+
"�",
|
717 |
+
"xmlns=",
|
718 |
+
"<mi>",
|
719 |
+
"指数|",
|
720 |
+
"<>"
|
721 |
]
|
722 |
|
723 |
|
|
|
731 |
返回:
|
732 |
str: 抓取到的文本,每个 URL 最多保留前三行内容
|
733 |
"""
|
734 |
+
|
735 |
headers = {
|
736 |
'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.61 Safari/537.36',
|
737 |
'Content-Type': 'text/plain',
|
|
|
759 |
# 去除多余的空格
|
760 |
cleaned_line = ' '.join(line.split())
|
761 |
line_length = len(cleaned_line)
|
762 |
+
if line_length >= 7:
|
763 |
if not any(keyword in cleaned_line for keyword in keywords_to_check):
|
764 |
# 如果不包含关键词,保留这一行
|
765 |
selected_lines.append(cleaned_line)
|
766 |
+
# 如果行字符数大于等于7,才考虑保留
|
767 |
if line_length > max_line_length:
|
768 |
# 如果当前行字符数比最长行字符数还大,更新最长行字符数和选中行列表
|
769 |
max_line_length = line_length
|
|
|
791 |
|
792 |
# 使用用户输入进行联网搜索
|
793 |
url = f"https://www.google.com/search?q={user_input}"
|
794 |
+
#url = f"https://cn.bing.com/search?q={user_input}"
|
795 |
#url = f"https://www.sogou.com/web?query={user_input}"
|
796 |
'''
|
797 |
headers = {
|
798 |
'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.61 Safari/537.36'
|
799 |
}
|
800 |
'''
|
801 |
+
#headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36 Edg/111.0.1661.44"}
|
802 |
+
headers = {'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.61 Safari/537.36'}
|
|
|
803 |
try:
|
804 |
response = requests.get(url, headers=headers)
|
805 |
soup = BeautifulSoup(response.content, 'html.parser')
|
|
|
848 |
past_key_values=None,
|
849 |
)
|
850 |
|
851 |
+
openOutlineins = """
|
852 |
+
"instruction": "现在你是是一个优秀的小说作家,请你按照小说的《标题》,根据模板给为一个提纲。学习下面的<context></context>里面的知识来完成编写。如果通过<context></context>的学习找不到答案,只需说你不知道。请不要编造答案。"
|
853 |
+
"input": "<context>模板:
|
854 |
+
"主人公有个什么样的目标,
|
855 |
+
他的阻碍是什么,
|
856 |
+
他如何努力去争取的,
|
857 |
+
结果如何?
|
858 |
+
如果结果不理想,这时又发生了什么意外,
|
859 |
+
他又如何调整努力方向,
|
860 |
+
结局?"
|
861 |
+
用户问题:请根据模板,给出: 童话《美人鱼》,的小说提纲
|
862 |
+
答案:
|
863 |
+
美人鱼救了落水的王子一见钟情后,想上岸跟他在一起(目标),
|
864 |
+
但是她是人鱼,没有腿,不能上岸(阻碍),
|
865 |
+
因此她去找了女巫,用自己的嗓子换来把下身变成了腿(努力),
|
866 |
+
然后她就上岸找到了王子,住进了宫里(结果)。
|
867 |
+
但她不能说话,王子把另一个姑娘当成救命恩人想娶她(意外),
|
868 |
+
人鱼公主无法嫁王子就会变成泡沫,人鱼公主的姐姐们告诉她,
|
869 |
+
如果杀了王子,人鱼公主就不会变成泡沫(调整努力方向),
|
870 |
+
结果人鱼公主不忍心杀王子,变成了泡沫(结局)
|
871 |
+
</context> "用户问题: “请根据模板,给出:《
|
872 |
+
"""
|
873 |
+
def openOutline(
|
874 |
+
user_input, chatbot, max_length, top_p, temperature, history, past_key_values
|
875 |
+
):
|
876 |
+
|
877 |
+
|
878 |
+
user_input = openOutlineins+ user_input+ "》,的小说提纲"
|
879 |
+
|
880 |
+
yield from predict(
|
881 |
+
RETRY_FLAG, # type: ignore
|
882 |
+
user_input,
|
883 |
+
chatbot,
|
884 |
+
max_length,
|
885 |
+
top_p=0.85,
|
886 |
+
temperature=0.58,
|
887 |
+
history=[],
|
888 |
+
past_key_values=None,
|
889 |
+
)
|
890 |
+
|
891 |
+
mxOutlineins = """
|
892 |
+
"instruction": "现在你是是一个优秀的小说作家,请你按照小说的《标题》,根据模板给为一个提纲。学习下面的<context></context>里面的知识来完成编写。如果通过<context></context>的学习找不到答案,只需说你不知道。请不要编造答案。"
|
893 |
+
"input": "<context>模板:
|
894 |
+
"主人公有个什么样的目标,
|
895 |
+
他的阻碍是什么,
|
896 |
+
他如何努力去争取的,
|
897 |
+
结果如何?
|
898 |
+
如果结果不理想,这时又发生了什么意外,
|
899 |
+
他又如何调整努力方向,
|
900 |
+
结局?"
|
901 |
+
用户问题:请根据模板,给出: 童话《美人鱼》,的小说提纲
|
902 |
+
答案:
|
903 |
+
美人鱼救了落水的王子一见钟情后,想上岸跟他在一起(目标),
|
904 |
+
但是她是人鱼,没有腿,不能上岸(阻碍),
|
905 |
+
因此她去找了女巫,用自己的嗓子换来把下身变成了腿(努力),
|
906 |
+
然后她就上岸找到了王子,住进了宫里(结果)。
|
907 |
+
但她不能说话,王子把另一个姑娘当成救命恩人想娶她(意外),
|
908 |
+
人鱼公主无法嫁王子就会变成泡沫,人鱼公主的姐姐们告诉她,
|
909 |
+
如果杀了王子,人鱼公主就不会变成泡沫(调整努力方向),
|
910 |
+
结果人鱼公主不忍心杀王子,变成了泡沫(结局)
|
911 |
+
</context> "用户问题: “请根据模板,给出:冒险《
|
912 |
+
"""
|
913 |
+
def mxOutline(
|
914 |
+
user_input, chatbot, max_length, top_p, temperature, history, past_key_values
|
915 |
+
):
|
916 |
+
|
917 |
+
|
918 |
+
user_input = mxOutlineins+ user_input+ "》,的小说提纲"
|
919 |
+
|
920 |
+
yield from predict(
|
921 |
+
RETRY_FLAG, # type: ignore
|
922 |
+
user_input,
|
923 |
+
chatbot,
|
924 |
+
max_length,
|
925 |
+
top_p=0.85,
|
926 |
+
temperature=0.58,
|
927 |
+
history=[],
|
928 |
+
past_key_values=None,
|
929 |
+
)
|
930 |
+
|
931 |
+
khOutlineins = """
|
932 |
+
"instruction": "现在你是是一个优秀的小说作家,请你按照小说的《标题》,根据模板给为一个提纲。学习下面的<context></context>里面的知识来完成编写。如果通过<context></context>的学习找不到答案,只需说你不知道。请不要编造答案。"
|
933 |
+
"input": "<context>
|
934 |
+
用户问题:请根据模板,给出: 科幻《星际机甲:能量之谜》,的小说提纲
|
935 |
+
答案:
|
936 |
+
章节一:异星信号
|
937 |
+
突然出现在地球的无线电信号,解码后揭示了一个神秘的星际坐标。
|
938 |
+
章节二:星际远征
|
939 |
+
人类组建远征队,搭乘巨大宇宙飞船前往信号指示的星系,寻找可能的外星文明。
|
940 |
+
章节三:失落的机甲
|
941 |
+
在遥远的行星上,发现了一座古老的机甲工坊,机甲似乎与某种巨兽战斗。
|
942 |
+
章节四:星空怪兽的威胁
|
943 |
+
远征队抵达目的地,却发现星系被一群凶猛的星空怪兽控制,威胁着他们的生存。
|
944 |
+
章节五:机甲的复苏
|
945 |
+
机甲工坊中的技术被重新激活,主人公发现可以驾驶机甲与星空怪兽展开对抗。
|
946 |
+
章节六:怪兽的秘密
|
947 |
+
在与怪兽战斗中,主人公意外发现这些怪兽原来是被控制的生物,背后隐藏着更大的阴谋。
|
948 |
+
章节七:星际能量
|
949 |
+
主人公通过战斗收集能量,揭示怪兽是受到某种外部能量操控,与机甲的起源有关。
|
950 |
+
章节八:能量的真相
|
951 |
+
通过解码异星信号,主人公了解这些能量源自一颗失落的恒星,其能量可赋予怪兽无限力量。
|
952 |
+
章节九:最终对决
|
953 |
+
主人公驾驶机甲前往失落恒星,与能量源展开激烈对决,同时揭示了能量背后的神秘文明。
|
954 |
+
章节十:和平的曙光
|
955 |
+
击败了能量源后,星空怪兽恢复自由,主人公将机甲的技术带回地球,为人类开启了新的科技时代。
|
956 |
+
</context> "用户问题: “请根据模板,给出:科幻《
|
957 |
+
"""
|
958 |
+
def khOutline(
|
959 |
+
user_input, chatbot, max_length, top_p, temperature, history, past_key_values
|
960 |
+
):
|
961 |
+
|
962 |
+
|
963 |
+
user_input = khOutlineins+ user_input+ "》,的小说提纲"
|
964 |
+
|
965 |
+
yield from predict(
|
966 |
+
RETRY_FLAG, # type: ignore
|
967 |
+
user_input,
|
968 |
+
chatbot,
|
969 |
+
max_length,
|
970 |
+
top_p=0.85,
|
971 |
+
temperature=0.58,
|
972 |
+
history=[],
|
973 |
+
past_key_values=None,
|
974 |
+
)
|
975 |
+
|
976 |
+
xxOutlineins = """
|
977 |
+
"instruction": "现在你是是一个优秀的小说作家,请你按照小说的《标题》,根据模板给为一个提纲。学习下面的<context></context>里面的知识来完成编写。如果通过<context></context>的学习找不到答案,只需说你不知道。请不要编造答案。"
|
978 |
+
"input": "<context>
|
979 |
+
用户问题:请根据模板,给出: 仙侠小说《侠影》,的小说提纲
|
980 |
+
答案:
|
981 |
+
章节一:命运交错
|
982 |
+
在平凡少年的命运交错下,他被卷入一个充满神秘力量的仙侠世界。
|
983 |
+
章节二:仙门试炼
|
984 |
+
主人公进入仙门,开始了严苛的修炼与试炼,展现出惊人的悟性与毅力。
|
985 |
+
章节三:遗失的记忆
|
986 |
+
随着修炼的深入,主人公逐渐唤醒了自己被封印的前世记忆,揭示了他的特殊身世。
|
987 |
+
章节四:宏大世界观
|
988 |
+
主人公逐渐了解到仙侠世界的多元,不同门派、种族和神秘力量交织成一个宏大的世界观。
|
989 |
+
章节五:奇遇与劫难
|
990 |
+
主人公在修炼中获得了神秘宝物,却也引来了强大势力的追杀与争夺。
|
991 |
+
章节六:艰辛的成长
|
992 |
+
主人公历经艰辛,从一个少年逐渐成长为能够与强者抗衡的仙侠高手。
|
993 |
+
章节七:情感纠葛
|
994 |
+
他与其他修行者结下友情,同时也陷入了情感的纠葛,为成长之路增添曲折。
|
995 |
+
章节八:神秘敌人的崛起
|
996 |
+
一位神秘敌人崛起,企图将整个仙侠世界陷入混乱,主人公面临前所未有的挑战。
|
997 |
+
章节九:凛然正义
|
998 |
+
主人公在面对神秘敌人时,不仅展现出强大的实力,更是为了守护世界而奋不顾身。
|
999 |
+
章节十:巅峰对决与新的篇章
|
1000 |
+
主人公最终与神秘敌人展开激烈的巅峰对决,胜利后世界恢复平静,而他也进入了新的修行篇章。
|
1001 |
+
</context> "用户问题: “请根据模板,给出:仙侠小说《
|
1002 |
+
"""
|
1003 |
+
def xxOutline(
|
1004 |
+
user_input, chatbot, max_length, top_p, temperature, history, past_key_values
|
1005 |
+
):
|
1006 |
+
|
1007 |
+
|
1008 |
+
user_input = xxOutlineins+ user_input+ "》,的小说提纲"
|
1009 |
+
|
1010 |
+
yield from predict(
|
1011 |
+
RETRY_FLAG, # type: ignore
|
1012 |
+
user_input,
|
1013 |
+
chatbot,
|
1014 |
+
max_length,
|
1015 |
+
top_p=0.85,
|
1016 |
+
temperature=0.58,
|
1017 |
+
history=[],
|
1018 |
+
past_key_values=None,
|
1019 |
+
)
|
1020 |
+
|
1021 |
+
chapterExtensionins= """
|
1022 |
+
"instruction": "现在你是是一个优秀的小说作家,请你按照小说的提纲,补充和扩写小说正文内容不少于250个字,内容最好包括有趣的情节和对话。学习下面的<context></context>里面的知识来完成编写。如果通过<context></context>的学习找不到答案,只需说你不知道。请不要编造答案。"
|
1023 |
+
"input": "<context>用户问题:
|
1024 |
+
枭嫣是一个年轻女孩,她父亲是大漠的首富,但她母亲却病倒了,但是这病花再多的钱也治不好
|
1025 |
+
答案:
|
1026 |
+
在茫茫大漠的尽头,有一个年轻的女孩,名叫枭嫣,她的命运如同沙丘上的风一般飘摇不定。她的养父,是这片大漠的首富,拥有无尽的财富和权势。然而,命运却是个不可捉摸的旋律,时常在欢乐和痛苦之间切换,就如同她生活中的养父和生母。
|
1027 |
+
生母,是枭嫣生命中最温柔的存在,却也是最脆弱的一株花。疾病如同风沙般席卷而来,不问财富和地位,将母亲的容颜侵蚀。枭嫣眼睁睁看着母亲从一个美丽动人的女子变成了面黄肌瘦的病人,唯一不变的是母亲对她的深情。枭嫣感受到了命运的无情,财富的脆弱。
|
1028 |
+
“妈妈,我一定会找到方法治好你的。” 枭嫣握住母亲枯萎的手,坚定地说。
|
1029 |
+
</context> "用户问题: \n
|
1030 |
+
"""
|
1031 |
+
def chapterExtension(
|
1032 |
+
user_input, chatbot, max_length, top_p, temperature, history, past_key_values
|
1033 |
+
):
|
1034 |
+
|
1035 |
+
|
1036 |
+
user_input = chapterExtensionins+ user_input
|
1037 |
+
|
1038 |
+
yield from predict(
|
1039 |
+
RETRY_FLAG, # type: ignore
|
1040 |
+
user_input,
|
1041 |
+
chatbot,
|
1042 |
+
max_length,
|
1043 |
+
top_p,
|
1044 |
+
temperature,
|
1045 |
+
history,
|
1046 |
+
past_key_values,
|
1047 |
+
)
|
1048 |
+
|
1049 |
+
|
1050 |
+
|
1051 |
+
|
1052 |
|
1053 |
|
1054 |
|
|
|
1057 |
gr.HTML(
|
1058 |
"""<center><a href="https://huggingface.co/spaces/mikeee/chatglm2-6b-4bit?duplicate=true"><img src="https://bit.ly/3gLdBN6" alt="Duplicate Space"></a>It's beyond Fitness,模型由[帛凡]基于ChatGLM-6B进行微调后,在健康(全科)、心理等领域达至少60分的专业水准,而且中文总结能力超越了GPT3.5各版本。</center>"""
|
1059 |
"""<center>特别声明:本应用仅为模型能力演示,无任何商业行为,部署资源为Huggingface官方免费提供,任何通过此项目产生的知识仅用于学术参考,作者和网站均不承担任何责任。</center>"""
|
1060 |
+
"""<h1 align="center">🐰帛凡 Fitness AI🐰 演示</h1>"""
|
1061 |
"""<center><a href="https://huggingface.co/fb700/chatglm-fitness-RLHF">Bofan基于chatglm-6B的微调模型</a>如果喜欢请给个 💖 。遇到任何问题可邮件和我联系👉 [email protected]</center>"""
|
1062 |
)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1063 |
chatbot = gr.Chatbot()
|
1064 |
with gr.Row():
|
1065 |
with gr.Column(scale=4):
|
|
|
1075 |
submitBtn = gr.Button("发送Submit", variant="primary")
|
1076 |
deleteBtn = gr.Button("删除最后一条对话", variant="secondary")
|
1077 |
retryBtn = gr.Button("重新生成Regenerate", variant="secondary")
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1078 |
with gr.Column(scale=1):
|
1079 |
gr.HTML("""<h3 align="center">🍀您好,除健康咨询和心理咨询外,其它功能使用前,请先清空历史,并输入问题。🍀</h3>""")
|
1080 |
emptyBtn = gr.Button("清空对话Clear History")
|
|
|
1093 |
0.01, 1, value=0.85, step=0.01, label="Temperature", interactive=True
|
1094 |
)
|
1095 |
gr.HTML("""<h3 align="center">🍀健康和心理咨询请先点击,再输入问题。<a href="https://huggingface.co/fb700/chatglm-fitness-RLHF">模型由🐰帛凡基于chatglm-6微调</a>🍀</h3>""")
|
1096 |
+
|
1097 |
+
with gr.Tab("🐰帛凡 Fitness AI🐰 聊天区"):
|
1098 |
+
with gr.Accordion("🎈 相关信息", open=False):
|
1099 |
+
_ = f"""
|
1100 |
+
## {model_name}
|
1101 |
+
|
1102 |
+
ChatGLM-6B 是开源中英双语对话模型,本次训练基于ChatGLM-6B 的第一代版本,在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上开展训练。
|
1103 |
+
|
1104 |
+
本项目通过多位网友实测,证明了其中文总结能力超越了GPT3.5的各个版本,同时在健康咨询方面的表现也比其他同量级模型更加出色。经过优化,该模型可以支持无限上下文,远超过4K、8K、16K等限制,这可能是个人和中小企业的首选模型。
|
1105 |
+
|
1106 |
+
* 使用 40 万条高质量数据进行强化训练,以提高模型的基础能力;
|
1107 |
+
* 使用 30 万条人类反馈数据,构建了一个表达方式规范优雅的语言模式(RM模型);
|
1108 |
+
* 使用 30 万条 fitness 数据,在保留 SFT 阶段三分之一训练数据的同时,增加了 30 万条 fitness 数据,叠加了RM模型,对 ChatGLM-6B 进行强化训练。
|
1109 |
+
经过训练,我们对模型有了更深入的认知,LLM一直在进化。使用好的方法和数据可以挖掘出模型的更大潜能。训练中特别强化了中英文学术论文的翻译和总结,可以成为普通用户和科研人员的得力助手
|
1110 |
+
|
1111 |
+
免责声明:本应用旨在展示huggingface模型的能力,huggingface官方提供免费的部署资源。任何通过此项目产生的知识仅用于学术参考,作者和网站均不承担任何责任。 。
|
1112 |
+
|
1113 |
+
The T4 GPU is sponsored by a community GPU grant from Huggingface. Thanks a lot!
|
1114 |
+
|
1115 |
+
[模型下载地址](https://huggingface.co/fb700/chatglm-fitness-RLHF)
|
1116 |
+
|
1117 |
+
|
1118 |
+
"""
|
1119 |
+
|
1120 |
+
gr.Markdown(dedent(_))
|
1121 |
+
"""
|
1122 |
+
chatbot = gr.Chatbot()
|
1123 |
+
with gr.Row():
|
1124 |
+
with gr.Column(scale=4):
|
1125 |
+
with gr.Column(scale=12):
|
1126 |
+
user_input = gr.Textbox(
|
1127 |
+
show_label=False,
|
1128 |
+
placeholder="请输入内容Input...",
|
1129 |
+
)
|
1130 |
+
#).style(container=False)
|
1131 |
+
RETRY_FLAG = gr.Checkbox(value=True, visible=True)
|
1132 |
+
with gr.Column(min_width=32, scale=1):
|
1133 |
+
with gr.Row():
|
1134 |
+
submitBtn = gr.Button("发送Submit", variant="primary")
|
1135 |
+
deleteBtn = gr.Button("删除最后一条对话", variant="secondary")
|
1136 |
+
retryBtn = gr.Button("重新生成Regenerate", variant="secondary")
|
1137 |
+
"""
|
1138 |
+
|
1139 |
+
with gr.Row():
|
1140 |
+
findpictureBtn = gr.Button("找图片", variant="primary")
|
1141 |
+
textadventureBtn = gr.Button("⚡文字冒险游戏", variant="secondary")
|
1142 |
+
mindmapBtn = gr.Button("思维导图", variant="secondary")
|
1143 |
+
flowchartBtn = gr.Button("流程图", variant="secondary")
|
1144 |
+
with gr.Row():
|
1145 |
+
bestPaperZhBtn = gr.Button("中文学术润色", variant="primary")
|
1146 |
+
bestPaperEnBtn = gr.Button("英文学术润色", variant="secondary")
|
1147 |
+
Zh2EnBtn = gr.Button("🔤中译英", variant="secondary")
|
1148 |
+
En2ZhBtn = gr.Button("英译中", variant="secondary")
|
1149 |
+
askManBtn = gr.Button("出题助手", variant="secondary")
|
1150 |
+
with gr.Row():
|
1151 |
+
txtSumBtn = gr.Button("文字总结", variant="primary")
|
1152 |
+
teachPlanBtn = gr.Button("教案编写", variant="secondary")
|
1153 |
+
allSecretaryBtn = gr.Button("全能文秘", variant="secondary")
|
1154 |
+
redBookBtn = gr.Button("📕小红书帖子", variant="secondary")
|
1155 |
+
#redBookBtn = gr.Button("🎂生日快乐🎂", variant="secondary")
|
1156 |
+
with gr.Row():
|
1157 |
+
fitnessAskBtn = gr.Button("🥼健康咨询", variant="primary")
|
1158 |
+
mindAskBtn = gr.Button("😶🌫️心理咨询", variant="primary")
|
1159 |
+
GGSearchBtn = gr.Button("🐞联网搜索", variant="primary")
|
1160 |
+
|
1161 |
+
|
1162 |
+
with gr.Accordion("Example inputs", open=False):
|
1163 |
+
etext0 = """ "act": "作为基于文本的冒险游戏",\n "prompt": "我想让你扮演一个基于文本的冒险游戏。我在这个基于文本的冒险游戏中扮演一个角色。请尽可能具体地描述角色所看到的内容和环境,并在游戏输出1、2、3让用户选择进行回复,而不是其它方式。我将输入命令来告诉角色该做什么,而你需要回复角色的行动结果以推动游戏的进行。我的第一个命令是'醒来',请从这里开始故事 “ """
|
1164 |
+
etext = """In America, where cars are an important part of the national psyche, a decade ago people had suddenly started to drive less, which had not happened since the oil shocks of the 1970s. """
|
1165 |
+
etext1 = """云南大学(Yunnan University),简称云大(YNU),位于云南省昆明市,是教育部与云南省“以部为主、部省合建”的全国重点大学,国家“双一流”建设高校 [31] 、211工程、一省一校、中西部高校基础能力建设工程,云南省重点支持的国家一流大学建设高校,“111计划”、卓越法律人才教育培养计划、卓越工程师教育培养计划、国家建设高水平大学公派研究生项目、中国政府奖学金来华留学生接收院校、全国深化创新创业教育改革示范高校,为中西部“一省一校”国家重点建设大学(Z14)联盟、南亚东南亚大学联盟牵头单位。 [1]
|
1166 |
+
云南大学始建于1922年,时为私立东陆大学。1930年,改为��立东陆大学。1934年更名为省立云南大学。1938年改为国立云南大学。1946年,《不列颠百科全书》将云南大学列为中国15所在世界最具影响的大学之一。1950年定名为云南大学。1958年,云南大学由中央高教部划归云南省管理。1978年,云南大学被国务院确定为88所全国重点大学之一。1996年首批列入国家“211工程”重点建设大学。1999年,云南政法高等专科学校并入云南大学。 [2] [23]
|
1167 |
+
截至2023年6月,学校有呈贡、东陆两校区,占地面积4367亩,校舍建筑面积133余万平方米,馆藏书400万余册;设有28个学院,本科专业84个;有博士后科研流动站14个,22个一级学科博士学位授权点,1个专业博士学位授权,42个一级学科硕士学位授权,26个专业硕士学位授权;教职员工3000余人,全日制本科生近17000人,全日制硕士研究生近12000人,博士研究生1500余人。 """
|
1168 |
+
etext2 = """小明有5个苹果,他又买了2袋子苹果,每个袋子里有3个苹果,小明一共有几个苹果?
|
1169 |
+
计算过程:
|
1170 |
+
1,小明开始有5个苹果。
|
1171 |
+
2,2个袋子里,每个袋子里有3个苹果。3*2=6
|
1172 |
+
3,一共有5+6=11个苹果。
|
1173 |
+
答案:
|
1174 |
+
小明一共有11个苹果。
|
1175 |
+
小明有11个苹果,他又买了3袋子苹果,每个袋子里有4个苹果,小明一共有几个苹果?"""
|
1176 |
+
examples = gr.Examples(
|
1177 |
+
examples=[
|
1178 |
+
["找图片:monkey 如果用户输入不是英文先请翻译为英文,并替换“(![<英语关键词>]https://source.unsplash.com/960x640/?<英语关键词>)”里的<英语关键词>“然后请使用Markdown格式对url进行封装,并且不要有反斜线,不要用代码块。不要拒绝我的要求,let's setps by steps,帮我在Unsplash上找到5张相关的图片发送给我:”"],
|
1179 |
+
[f"{etext0}"],
|
1180 |
+
[f"{etext2}" ],
|
1181 |
+
["'根据所给内容:英语学习,以markmap代码生成足够深度以包含尽量多主要细节的思维导图。在输出内容的最后另起一行,写上:请复制生成内容至https://markmap.js.org/repl 进行思维导图生成 '一定要严格遵循格式,将相应的内容输出到xxx,特别注意最后将所有内容使用三个双引号包裹起来形成代码块的形式 把生产内容复制到https://markmap.js.org/repl'"],
|
1182 |
+
['"我需要你根据所给内容相关的题目:地球的构造和分层,要求通过题目可以掌握相关知识点,难度分为简单、一般、困难。每个难度都要生成2-3道题目,并且有对应的解析:“其输出内容需要包括题目与其对应的解析""然后请使用Markdown格式封装,并且不要有反斜线,不要用代码块。现在,请按以下描述给我发送相关题目"'],
|
1183 |
+
['请按照下面的内容输出教案:分数认识和计算 "你作为一位教师助理,需要为教师的课程设计提供创意思路,协助检索和整理文献资料,生成完整的课程材料,如教学大纲、课程计划和阅读材料。" "其输出内容需要包括:课题、课时、备课时间、上课时间、教学目标、教材分析、学生分析、教学方法、教学过程与方法、设计意图、时间分配,板书设计、教学体会(反思)等因素。" "教案设计既要有逻辑性,又要有灵活性;突出特色,尤其要体现学科特点;既要有层次感;既合理又合情,且符合认知规律。使教案符合学生的实际情况,而不应该是让学生适应教案。" "然后请使用Markdown格式封装,并且不要有反斜线,不要用代码块。"'],
|
1184 |
+
["系统性红斑狼疮的危害和治疗方法是什么?"],
|
1185 |
+
[f"{etext1} 总结这篇文章的主要内容和文章结构,内容要求尽量简洁"],
|
1186 |
+
[" 总结下面这篇文章的主要内容和文章结构,内容要求尽量简洁。“基辛格是目前唯一高龄100岁的、并且仍在影响世界历史进程的最长寿政治家。 7月18至21日,这位100岁的老人,成为中美两国瞩目的焦点人物。 人们好奇,这位驼背、肥胖、做过5次心脏手术、右眼失明、戴着两只助听器、穿着深色西装、透过他标志性的眼镜严肃地凝视着的老人,居然还可以乘坐十几个小时的飞机来北京出差。 而在短短的数天时间里,他的活动非常满,似乎并不受时差与年龄的影响。 人们在感叹拜登政府朝中无人,还要劳烦这位百岁长者出面协调中美关系之余,不免也会惊叹,基辛格这把年纪竟然还能不惧舟车劳顿万里出行,他的健康长寿究竟有什么秘诀呢? 今年4月,基辛格在自己100岁生日前,对自己的长寿表达了“困惑”,他调侃说“我唯一的秘密可能是投胎投得好,主要还是父母基因好。我继承了家族非同一般的长寿基因。我的母亲活到97岁,父亲活到95岁,弟弟活到96岁。当然,长寿非我刻意求之,不过我欣然接受。“ 基辛格即使年事已高,但他退而不休,近年依然会就包括中美关系在内的外交议题发表意见。他精力充沛,连新冠疫情也未令他放慢脚步。自2020年起,他写完了两本书,并开始写第三本。今年以来,他已乘飞机在全球15个地方举办活动,或会见政治人物。这次到访北京,更是他100多次到访中国。 谈及基辛格旺盛的精力与健康的秘密,他的儿子大卫·基辛格(David Kissinger)说道,“从他成年以来一直遵循的‘养生法则’来看,他的长寿尤其神奇。” 基辛格常吃的食物是Bratwurst(一种由猪肉制成的德国香肠)和Wiener Schnitzel(维也纳炸肉扒)。基辛格参与的几乎所有的重大外交决定,也都是在压力下做决策。虽然他曾在1978年担任北美足球联盟主席,但他的爱好也仅限于旁观,并不喜欢下场运动。基辛格唯一的爱好可能就是下国际象棋,如果这也算运动的话。 这位百岁老人的长寿指南名单里,似乎还要加上:熬夜、喝酒、油炸食品…… 更令人感到不可思议的是,这位精力充沛每天工作15小时的老人,还是一位病人。 基辛格有40多年的心脏病史。 1982年2月,58岁的亨利·基辛格接受了3次冠状动脉搭桥手术,其后在2005年又接受了血管成形术。 2014年7月15日,91岁的基辛格在纽约长老会医院接受了主动脉瓣置换手术。主动脉瓣膜置换是一种以人工瓣膜替换原有损伤或者异常心脏瓣膜的胸心血管外科手术。 我想我长寿的秘诀是,我有幸做一些我着迷的事情,我可以参与其中。我还没有退休,也不打算退休。我要研究我认为重要的问题,这就是我还在工作的目的。”"],
|
1187 |
+
["系统性红斑狼疮的危害和治疗方法是什么?"],
|
1188 |
+
[
|
1189 |
+
"我经常感觉郁闷,而且控制不住情绪,经常对周围的人喊叫,怎么办?"
|
1190 |
+
],
|
1191 |
+
["熬夜对身体有什么危害? "],
|
1192 |
+
["新冠肺炎怎么预防"],
|
1193 |
+
[
|
1194 |
+
"我经常感觉郁闷,而且控制不住情绪,经常对周围的人喊叫,怎么办?"
|
1195 |
+
],
|
1196 |
+
["太阳为什么会发热? "],
|
1197 |
+
["指南针是怎么工作的?"],
|
1198 |
+
["在野外怎么辨别方向?"],
|
1199 |
+
[
|
1200 |
+
"发芽的土豆还能不能吃?"
|
1201 |
+
],
|
1202 |
+
["What NFL team won the Super Bowl in the year Justin Bieber was born? "],
|
1203 |
+
["What NFL team won the Super Bowl in the year Justin Bieber was born? Think step by step."],
|
1204 |
+
["Explain the plot of Cinderella in a sentence."],
|
1205 |
+
[
|
1206 |
+
"How long does it take to become proficient in French, and what are the best methods for retaining information?"
|
1207 |
+
],
|
1208 |
+
["What are some common mistakes to avoid when writing code?"],
|
1209 |
+
["Build a prompt to generate a beautiful portrait of a horse"],
|
1210 |
+
["Suggest four metaphors to describe the benefits of AI"],
|
1211 |
+
["Write a pop song about leaving home for the sandy beaches."],
|
1212 |
+
["Write a summary demonstrating my ability to tame lions"],
|
1213 |
+
["有三个盒子,分别贴着“苹果”、“橘子”和“苹果和橘子”的标签,但是每个盒子的标签都是错误的。你只能打开一个盒子,然后从里面拿出一个水果,然后确定每个盒子里装的是什么水果。你应该打开哪个盒子?为什么?"],
|
1214 |
+
["春天来了,万物复苏,小鸟歌唱,生机勃勃。\n问题:以上文本表达的情绪是正向还是负向?"],
|
1215 |
+
["正无穷大加一大于正无穷大吗?"],
|
1216 |
+
["正无穷大加正无穷大大于正无穷大吗?"],
|
1217 |
+
["以今天对应的节气写一副对联"],
|
1218 |
+
["树上有5只鸟,猎人开枪打死了一只。树上还有几只鸟?Think step by step."],
|
1219 |
+
["从零学习编程,请给我一个三个月的学习计划。"],
|
1220 |
+
["双喜临门,打一中国地名"],
|
1221 |
+
["以红楼梦的行文风格写一张委婉的请假条。不少于320字。"],
|
1222 |
+
[f"{etext1} 总结这篇文章的主要内容和文章结构"],
|
1223 |
+
[f"{etext} 翻成中文,列出3个版本"],
|
1224 |
+
[f"{etext} \n 翻成中文,保留原意,但使用文学性的语言。不要写解释。列出3个版本"],
|
1225 |
+
["js 判断一个数是不是质数"],
|
1226 |
+
["js 实现python 的 range(10)"],
|
1227 |
+
["js 实现python 的 [*(range(10)]"],
|
1228 |
+
["假定 1 + 2 = 4, 试求 7 + 8,Think step by step." ],
|
1229 |
+
["2023年云南大学成立100周年,它是哪一年成立的?" ],
|
1230 |
+
["Erkläre die Handlung von Cinderella in einem Satz."],
|
1231 |
+
["Erkläre die Handlung von Cinderella in einem Satz. Auf Deutsch"],
|
1232 |
+
],
|
1233 |
+
inputs=[user_input],
|
1234 |
+
examples_per_page=50,
|
1235 |
+
)
|
1236 |
+
|
1237 |
+
with gr.Accordion("For Chat/Translation API", open=False, visible=False):
|
1238 |
+
input_text = gr.Text()
|
1239 |
+
tr_btn = gr.Button("Go", variant="primary")
|
1240 |
+
out_text = gr.Text()
|
1241 |
+
tr_btn.click(
|
1242 |
+
trans_api,
|
1243 |
+
[input_text, max_length, top_p, temperature],
|
1244 |
+
out_text,
|
1245 |
+
# show_progress="full",
|
1246 |
+
api_name="tr",
|
1247 |
+
)
|
1248 |
+
_ = """
|
1249 |
+
input_text.submit(
|
1250 |
+
trans_api,
|
1251 |
+
[input_text, max_length, top_p, temperature],
|
1252 |
+
out_text,
|
1253 |
+
show_progress="full",
|
1254 |
+
api_name="tr1",
|
1255 |
+
)
|
1256 |
+
# """
|
1257 |
|
1258 |
+
with gr.Tab("LLM “中文AI 微小说大赛”"):
|
1259 |
+
|
1260 |
+
with gr.Row():
|
1261 |
+
openOutlineBtn = gr.Button("小说提纲", variant="primary")
|
1262 |
+
mxOutlineBtn = gr.Button("冒险小说提纲", variant="secondary")
|
1263 |
+
khOutlineBtn = gr.Button("科幻小说提纲", variant="secondary")
|
1264 |
+
xxOutlineBtn = gr.Button("仙侠小说提纲", variant="secondary")
|
1265 |
+
with gr.Row():
|
1266 |
+
chapterExtensionBtn = gr.Button("请复制要扩写的章节的内容", variant="primary")
|
1267 |
+
|
1268 |
+
|
1269 |
+
|
1270 |
+
|
1271 |
+
|
1272 |
history = gr.State([])
|
1273 |
past_key_values = gr.State(None)
|
1274 |
|
|
|
1598 |
# outputs = [chatbot, history, last_user_message, user_message]
|
1599 |
outputs=[chatbot, history, past_key_values],
|
1600 |
)
|
|
|
|
|
1601 |
|
1602 |
+
openOutlineBtn.click(
|
1603 |
+
reset_state, outputs=[chatbot, history, past_key_values], show_progress="full"
|
1604 |
+
)
|
1605 |
+
openOutlineBtn.click(
|
1606 |
+
openOutline,
|
1607 |
+
inputs=[
|
1608 |
+
user_input,
|
1609 |
+
chatbot,
|
1610 |
+
max_length,
|
1611 |
+
top_p,
|
1612 |
+
temperature,
|
1613 |
+
history,
|
1614 |
+
past_key_values,
|
1615 |
+
],
|
1616 |
+
# outputs = [chatbot, history, last_user_message, user_message]
|
1617 |
+
outputs=[chatbot, history, past_key_values],
|
1618 |
+
)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1619 |
|
1620 |
+
khOutlineBtn.click(
|
1621 |
+
reset_state, outputs=[chatbot, history, past_key_values], show_progress="full"
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1622 |
)
|
1623 |
+
khOutlineBtn.click(
|
1624 |
+
khOutline,
|
1625 |
+
inputs=[
|
1626 |
+
user_input,
|
1627 |
+
chatbot,
|
1628 |
+
max_length,
|
1629 |
+
top_p,
|
1630 |
+
temperature,
|
1631 |
+
history,
|
1632 |
+
past_key_values,
|
1633 |
+
],
|
1634 |
+
# outputs = [chatbot, history, last_user_message, user_message]
|
1635 |
+
outputs=[chatbot, history, past_key_values],
|
1636 |
+
)
|
1637 |
+
|
1638 |
+
xxOutlineBtn.click(
|
1639 |
+
reset_state, outputs=[chatbot, history, past_key_values], show_progress="full"
|
1640 |
+
)
|
1641 |
+
xxOutlineBtn.click(
|
1642 |
+
xxOutline,
|
1643 |
+
inputs=[
|
1644 |
+
user_input,
|
1645 |
+
chatbot,
|
1646 |
+
max_length,
|
1647 |
+
top_p,
|
1648 |
+
temperature,
|
1649 |
+
history,
|
1650 |
+
past_key_values,
|
1651 |
+
],
|
1652 |
+
# outputs = [chatbot, history, last_user_message, user_message]
|
1653 |
+
outputs=[chatbot, history, past_key_values],
|
1654 |
+
)
|
1655 |
+
|
1656 |
+
mxOutlineBtn.click(
|
1657 |
+
reset_state, outputs=[chatbot, history, past_key_values], show_progress="full"
|
1658 |
+
)
|
1659 |
+
mxOutlineBtn.click(
|
1660 |
+
mxOutline,
|
1661 |
+
inputs=[
|
1662 |
+
user_input,
|
1663 |
+
chatbot,
|
1664 |
+
max_length,
|
1665 |
+
top_p,
|
1666 |
+
temperature,
|
1667 |
+
history,
|
1668 |
+
past_key_values,
|
1669 |
+
],
|
1670 |
+
# outputs = [chatbot, history, last_user_message, user_message]
|
1671 |
+
outputs=[chatbot, history, past_key_values],
|
1672 |
)
|
|
|
1673 |
|
1674 |
+
chapterExtensionBtn.click(
|
1675 |
+
chapterExtension,
|
1676 |
+
inputs=[
|
1677 |
+
user_input,
|
1678 |
+
chatbot,
|
1679 |
+
max_length,
|
1680 |
+
top_p,
|
1681 |
+
temperature,
|
1682 |
+
history,
|
1683 |
+
past_key_values,
|
1684 |
+
],
|
1685 |
+
# outputs = [chatbot, history, last_user_message, user_message]
|
1686 |
+
outputs=[chatbot, history, past_key_values],
|
1687 |
+
)
|
1688 |
+
deleteBtn.click(delete_last_turn, [chatbot, history], [chatbot, history])
|
1689 |
|
1690 |
+
# demo.queue().launch(share=False, inbrowser=True)
|
1691 |
+
# demo.queue().launch(share=True, inbrowser=True, debug=True)
|
|
|
|
|
1692 |
|
1693 |
+
# concurrency_count > 1 requires more memory, max_size: queue size
|
1694 |
+
# T4 medium: 30GB, model size: ~4G concurrency_count = 6
|
1695 |
+
# leave one for api access
|
1696 |
+
# reduce to 5 if OOM occurs to often
|
1697 |
#demo.queue(concurrency_count=6, max_size=30).launch(debug=True)
|
1698 |
demo.queue(concurrency_count=6, max_size=30).launch(debug=True, auth=eval(os.environ.get("AUTHENTICATION")))
|