|
--- |
|
language: |
|
- "中文" |
|
pretty_name: "TeleCom" |
|
tags: |
|
- "TeleCom" |
|
license: "unknown" |
|
task_categories: |
|
- "问答" |
|
--- |
|
|
|
|
|
### 数据集说明 |
|
|
|
#### 组成 |
|
| 类型 | 文件夹名称 | 来源 | 数量 | 说明 | |
|
| :--------: | :-----: | :-----: | :----: | :----: | |
|
| 电信问答 | telecom_Q&A | 百度知道QA | 87366 | 经过脱敏、数据清洗、人工筛选等处理| |
|
| 行业相关知识数据 | industry_data | 教科书、国际标准等 | 5218 | 通过大模型从文档得到的QA数据，部分原文档保存在source_data中 | |
|
| 通用指令数据集 | general_instruction | firefly | 18123 | 挑选了阅读、情感理解、补全、逻辑推理等主题的通用指令 | |
|
| 混合数据集 | blended_data | - | - | 按照数据集建设进程，混合后组件的训练、测试数据，可直接使用 | |
|
|
|
#### 混合数据 - V1 |
|
- 组成 |
|
| 来源 | 比例 | 条数 | 说明 | |
|
| :--------: | :-----: | :----: | :----: | |
|
| 百度知道 | 64% | 32282 | 经过脱敏、数据清洗、人工筛选等处理| |
|
| firefly | 36% | 18123 | 挑选了阅读、情感理解、补全、逻辑推理等主题的通用指令| |
|
| 标准问答 | - | 18 | 通过联通网上营业厅在线客服整理| |
|
| 合计 | 100% | 50423 | - | |
|
|
|
- 文件说明 |
|
| 名称 | 条目比例 | token数 | 说明| |
|
| -------- | -----: | :----: | :----: | |
|
| train | 85% | 4,257,817 | 训练数据集 | |
|
| test | 10% | 464,681 | 测试数据集 - 1 | |
|
| test_2 | 5% | 232,898 | 测试数据集 - 2 | |
|
| train_test | 10% | 403,905 | 训练数据集中抽取的测试数据集 | |
