|
# LCSTS |
|
|
|
### 简介 |
|
LCSTS数据集是一个大规模、高质量中文短文本摘要数据集,由哈尔滨工业大学收集,用于新闻摘要生成任务。该数据集取自于新浪微博的大规模中文短文本摘要数据集,包含了200万真实的中文短文本数据和每个文本作者给出的摘要,另外还有手动标记的10666份文本摘要。 |
|
|
|
### 论文 |
|
[LCSTS: A Large Scale Chinese Short Text Summarization Dataset](https://www.aclweb.org/anthology/D15-1229.pdf). EMNLP 2015. |
|
|
|
### 数据规模 |
|
训练集:2,400,591个摘要;验证集:8,685个摘要;测试集:725个摘要。 |
|
|
|
### 数据格式描述 |
|
每个实例包含人工标注的摘要质量打分(human_label,以整数形式存储),输入文本(text,以字符串形式存储)和输出的摘要(summary,以字符串形式存储)。 |
|
|
|
### 数据样例 |
|
``` |
|
{ |
|
"human_label": 5, |
|
"summary": "林志颖公司疑涉虚假营销无厂房无研发", |
|
"text": "日前,方舟子发文直指林志颖旗下爱碧丽推销假保健品,引起哗然。调查发现,爱碧丽没有自己的生产加工厂。其胶原蛋白饮品无核心研发,全部代工生产。号称有“逆生长”功效的爱碧丽“梦幻奇迹限量组”售价>高达1080元,实际成本仅为每瓶4元!" |
|
} |
|
``` |
|
- "human_label" (`int`):人工标注的摘要质量打分(只有验证集和测试集有该标注,且数据集中仅包括3、4、5分数据,而不包括1、2分的数据)。 |
|
- "text" (`str`):输入文本。 |
|
- "summary"(`str`):期待输出的摘要。 |
|
|
|
### 评测代码 |
|
预测结果需要和评测代码保持一样的格式。 |
|
正确提交文件名:LCSTS.jsonl |
|
依赖:rouge==1.0.0, jieba=0.42.1 |
|
```shell |
|
python eval.py prediction_file test_private_file |
|
``` |
|
|
|
评测指标为rouge-1, rouge-2, rouge-l,输出结果为字典格式: |
|
```she |
|
return { |
|
"rouge-1-f": _, |
|
"rouge-1-p": _, |
|
"rouge-1-r": _, |
|
"rouge-2-f": _, |
|
"rouge-2-p": _, |
|
"rouge-2-r": _, |
|
"rouge-l-f": _, |
|
"rouge-l-p": _, |
|
"rouge-l-r": _} |
|
``` |
|
|
|
### 作者列表 |
|
户保田,陈清财,祝方泽 |
|
|
|
### 制作单位 |
|
哈尔滨工业大学 |
|
|
|
### 论文引用 |
|
``` |
|
@inproceedings{hu2015lcsts, |
|
title={LCSTS: A Large Scale Chinese Short Text Summarization Dataset}, |
|
author={Hu, Baotian and Chen, Qingcai and Zhu, Fangze}, |
|
booktitle={Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing}, |
|
pages={1967--1972}, |
|
year={2015} |
|
} |
|
``` |
|
|