LCSTS

简介

LCSTS数据集是一个大规模、高质量中文短文本摘要数据集，由哈尔滨工业大学收集，用于新闻摘要生成任务。该数据集取自于新浪微博的大规模中文短文本摘要数据集，包含了200万真实的中文短文本数据和每个文本作者给出的摘要，另外还有手动标记的10666份文本摘要。

论文

LCSTS: A Large Scale Chinese Short Text Summarization Dataset. EMNLP 2015.

数据规模

训练集：2,400,591个摘要；验证集：8,685个摘要；测试集：725个摘要。

数据格式描述

每个实例包含人工标注的摘要质量打分(human_label，以整数形式存储)，输入文本(text，以字符串形式存储)和输出的摘要(summary，以字符串形式存储)。

数据样例

{
    "human_label": 5, 
    "summary": "林志颖公司疑涉虚假营销无厂房无研发", 
    "text": "日前，方舟子发文直指林志颖旗下爱碧丽推销假保健品，引起哗然。调查发现，爱碧丽没有自己的生产加工厂。其胶原蛋白饮品无核心研发，全部代工生产。号称有“逆生长”功效的爱碧丽“梦幻奇迹限量组”售价>高达1080元，实际成本仅为每瓶4元！"
}

"human_label" (int)：人工标注的摘要质量打分（只有验证集和测试集有该标注，且数据集中仅包括3、4、5分数据，而不包括1、2分的数据）。
"text" (str)：输入文本。
"summary"（str）：期待输出的摘要。

评测代码

预测结果需要和评测代码保持一样的格式。正确提交文件名：LCSTS.jsonl 依赖：rouge==1.0.0, jieba=0.42.1

python eval.py prediction_file test_private_file

评测指标为rouge-1, rouge-2, rouge-l，输出结果为字典格式：

return {
    "rouge-1-f": _, 
    "rouge-1-p": _, 
    "rouge-1-r": _, 
    "rouge-2-f": _, 
    "rouge-2-p": _, 
    "rouge-2-r": _, 
    "rouge-l-f": _, 
    "rouge-l-p": _, 
    "rouge-l-r": _}

作者列表

户保田，陈清财，祝方泽

制作单位

哈尔滨工业大学

论文引用

@inproceedings{hu2015lcsts,
  title={LCSTS: A Large Scale Chinese Short Text Summarization Dataset},
  author={Hu, Baotian and Chen, Qingcai and Zhu, Fangze},
  booktitle={Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing},
  pages={1967--1972},
  year={2015}
}