Datasets:
ashokurlana
commited on
Commit
·
0c7e125
1
Parent(s):
9effa08
Update README.md
Browse files
README.md
CHANGED
@@ -20,7 +20,7 @@ language:
|
|
20 |
size_categories:
|
21 |
- 100K<n<1M
|
22 |
---
|
23 |
-
# Dataset Card for
|
24 |
|
25 |
## Dataset Description
|
26 |
|
@@ -43,28 +43,25 @@ Assamese, Bengali, Gujarati, Hindi, Kannada, Marathi, Malayalm, Manipuri, Punjab
|
|
43 |
|
44 |
## Dataset Structure
|
45 |
|
46 |
-
The data comes in .jsonl format, where each JSON object correspond to all the data extracted from a single article. Each JSON object has the following fields:
|
47 |
-
|
48 |
-
{article_number,
|
49 |
-
${lang1}_text,
|
50 |
-
${lang1}_summary,
|
51 |
-
${lang1}_url,
|
52 |
-
${lang2}_text,
|
53 |
-
${lang2}_summary,
|
54 |
-
${lang2}_url,
|
55 |
-
...,
|
56 |
-
split}
|
57 |
-
where ${lang}_text, ${lang}_summary, and ${lang}_url correspond to the text (document), summary (headline), and the source URL for each language ${lang} available for that article. split indicates the train/valid/test split of that entire article. Texts and summaries can be paired to form cross-lingual data pairs.
|
58 |
-
|
59 |
-
Unless you have a specific need, we request you to respect the split decision to prevent test data leakage, especially for multilingual models. You could refer to our paper for a detailed explanation.
|
60 |
-
|
61 |
### Data Instances
|
62 |
|
63 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
64 |
|
65 |
### Data Fields
|
66 |
|
67 |
-
|
|
|
|
|
|
|
68 |
|
69 |
### Data Splits
|
70 |
|
@@ -139,12 +136,12 @@ If you are using the PMIndiaSum corpus, please cite the following article:
|
|
139 |
|
140 |
### Contributions
|
141 |
|
142 |
-
Ashok Urlana
|
143 |
-
Pinzhen Chen
|
144 |
-
Zheng Zhao
|
145 |
-
Shay B. Cohen
|
146 |
-
Manish Shrivastava
|
147 |
-
Barry Haddow
|
148 |
|
149 |
### Contact
|
150 |
|
|
|
20 |
size_categories:
|
21 |
- 100K<n<1M
|
22 |
---
|
23 |
+
# Dataset Card for "PMIndiaSum"
|
24 |
|
25 |
## Dataset Description
|
26 |
|
|
|
43 |
|
44 |
## Dataset Structure
|
45 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
46 |
### Data Instances
|
47 |
|
48 |
+
One instace of Telugu-Hindi cross-lingual pair from PMIndiaSum
|
49 |
+
```
|
50 |
+
{
|
51 |
+
"source_url": "https://www.pmindia.gov.in/te/news_updates/%E0%B0%8E%E0%B0%B2%E0%B0%95%E0%B1%8D%E0%B0%9F%E0%B1%8D%E0%B0%B0%E0%B0%BE%E0%B0%A8%E0%B0%BF%E0%B0%95%E0%B1%8D%E0%B0%B8%E0%B1%8D-%E0%B0%87%E0%B0%82%E0%B0%95%E0%B0%BE-%E0%B0%B8%E0%B0%AE%E0%B0%BE/"
|
52 |
+
"target_url": "https://www.pmindia.gov.in/hi/news_updates/%E0%A4%AA%E0%A5%8D%E0%A4%B0%E0%A4%A7%E0%A4%BE%E0%A4%A8%E0%A4%AE%E0%A4%82%E0%A4%A4%E0%A5%8D%E0%A4%B0%E0%A5%80-%E0%A4%B6%E0%A5%8D%E0%A4%B0%E0%A5%80-%E0%A4%A8%E0%A4%B0%E0%A5%87%E0%A4%A8%E0%A5%8D-45/"
|
53 |
+
"text": "ఎలక్ట్రానిక్స్, ఇంకా సమాచార సాంకేతిక విజ్ఞానం రంగంలో ద్వైపాక్షిక సహకారాన్ని పెంపొందింపచేయడంలో భారతదేశానికి మరియు అంగోలా కు మధ్య అవగాహనపూర్వక ఒప్పందాన్ని (ఎమ్ఒయు ను) గురించి ప్రధాన మంత్రి శ్రీ నరేంద్ర మోదీ అధ్యక్షతన జరిగిన కేంద్ర మంత్రివర్గ సమావేశం దృష్టి కి తీసుకువచ్చారు. ఈ ఎమ్ఒయు ఇ-గవర్నెన్స్, సమాచార సాంకేతిక విజ్ఞాన సంబంధ విద్య కు అవసరమైన మానవ వనరుల వికాసం, సమాచార భద్రత, ఎలక్ట్రానిక్స్ హార్డ్ వేర్ తయారీ, ఐటి ఎంబెడెడ్ సాఫ్ట్ వేర్ ఇండస్ట్రీ, టెలిమెడిసిన్ తదితర రంగాలలో సన్నిహిత సహకారాన్ని పెంపొందింపచేయడానికి ఉద్దేశించినటువంటిది"
|
54 |
+
"summary": "मंत्रिमंडल को इलेक्ट्रॉनिक्स एवं संचना प्रौद्योगिकी के क्षेत्र में द्विपक्षीय सहयोग के लिए भारत और अंगोला के बीच समझौता ज्ञापन से अवगत कराया गया"
|
55 |
+
|
56 |
+
}
|
57 |
+
```
|
58 |
|
59 |
### Data Fields
|
60 |
|
61 |
+
- 'source_url': A string representing the source article URL
|
62 |
+
- 'target_url': A string representing the target article URL
|
63 |
+
- 'text': A string containing the article text
|
64 |
+
- 'summary': A string containing the article summary
|
65 |
|
66 |
### Data Splits
|
67 |
|
|
|
136 |
|
137 |
### Contributions
|
138 |
|
139 |
+
- Ashok Urlana
|
140 |
+
- Pinzhen Chen
|
141 |
+
- Zheng Zhao
|
142 |
+
- Shay B. Cohen
|
143 |
+
- Manish Shrivastava
|
144 |
+
- Barry Haddow
|
145 |
|
146 |
### Contact
|
147 |
|