|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
"""Wikipedia dataset containing cleaned articles of all languages.""" |
|
|
|
|
|
import bz2 |
|
import codecs |
|
import json |
|
import os |
|
import re |
|
import xml.etree.cElementTree as etree |
|
from urllib.parse import quote |
|
|
|
import pyarrow as pa |
|
import pyarrow.parquet as pq |
|
|
|
import datasets |
|
|
|
|
|
logger = datasets.logging.get_logger(__name__) |
|
|
|
|
|
_CITATION = """\ |
|
@ONLINE {wikidump, |
|
author = {Wikimedia Foundation}, |
|
title = {Wikimedia Downloads}, |
|
url = {https://dumps.wikimedia.org} |
|
} |
|
""" |
|
|
|
_DESCRIPTION = """\ |
|
Wikipedia dataset containing cleaned articles of all languages. |
|
The datasets are built from the Wikipedia dump |
|
(https://dumps.wikimedia.org/) with one split per language. Each example |
|
contains the content of one full Wikipedia article with cleaning to strip |
|
markdown and unwanted sections (references, etc.). |
|
""" |
|
|
|
_LICENSE = ( |
|
"This work is licensed under the Creative Commons Attribution-ShareAlike " |
|
"3.0 Unported License. To view a copy of this license, visit " |
|
"http://creativecommons.org/licenses/by-sa/3.0/ or send a letter to " |
|
"Creative Commons, PO Box 1866, Mountain View, CA 94042, USA." |
|
) |
|
|
|
|
|
|
|
WIKIPEDIA_LANGUAGES = [ |
|
"aa", |
|
"ab", |
|
"ace", |
|
"ady", |
|
"af", |
|
"ak", |
|
"als", |
|
"am", |
|
"an", |
|
"ang", |
|
"ar", |
|
"arc", |
|
"arz", |
|
"as", |
|
"ast", |
|
"atj", |
|
"av", |
|
"ay", |
|
"az", |
|
"azb", |
|
"ba", |
|
"bar", |
|
"bat-smg", |
|
"bcl", |
|
"be", |
|
"be-x-old", |
|
"bg", |
|
"bh", |
|
"bi", |
|
"bjn", |
|
"bm", |
|
"bn", |
|
"bo", |
|
"bpy", |
|
"br", |
|
"bs", |
|
"bug", |
|
"bxr", |
|
"ca", |
|
"cbk-zam", |
|
"cdo", |
|
"ce", |
|
"ceb", |
|
"ch", |
|
"cho", |
|
"chr", |
|
"chy", |
|
"ckb", |
|
"co", |
|
"cr", |
|
"crh", |
|
"cs", |
|
"csb", |
|
"cu", |
|
"cv", |
|
"cy", |
|
"da", |
|
"de", |
|
"din", |
|
"diq", |
|
"dsb", |
|
"dty", |
|
"dv", |
|
"dz", |
|
"ee", |
|
"el", |
|
"eml", |
|
"en", |
|
"eo", |
|
"es", |
|
"et", |
|
"eu", |
|
"ext", |
|
"fa", |
|
"ff", |
|
"fi", |
|
"fiu-vro", |
|
"fj", |
|
"fo", |
|
"fr", |
|
"frp", |
|
"frr", |
|
"fur", |
|
"fy", |
|
"ga", |
|
"gag", |
|
"gan", |
|
"gd", |
|
"gl", |
|
"glk", |
|
"gn", |
|
"gom", |
|
"gor", |
|
"got", |
|
"gu", |
|
"gv", |
|
"ha", |
|
"hak", |
|
"haw", |
|
"he", |
|
"hi", |
|
"hif", |
|
"ho", |
|
"hr", |
|
"hsb", |
|
"ht", |
|
"hu", |
|
"hy", |
|
"ia", |
|
"id", |
|
"ie", |
|
"ig", |
|
"ii", |
|
"ik", |
|
"ilo", |
|
"inh", |
|
"io", |
|
"is", |
|
"it", |
|
"iu", |
|
"ja", |
|
"jam", |
|
"jbo", |
|
"jv", |
|
"ka", |
|
"kaa", |
|
"kab", |
|
"kbd", |
|
"kbp", |
|
"kg", |
|
"ki", |
|
"kj", |
|
"kk", |
|
"kl", |
|
"km", |
|
"kn", |
|
"ko", |
|
"koi", |
|
"krc", |
|
"ks", |
|
"ksh", |
|
"ku", |
|
"kv", |
|
"kw", |
|
"ky", |
|
"la", |
|
"lad", |
|
"lb", |
|
"lbe", |
|
"lez", |
|
"lfn", |
|
"lg", |
|
"li", |
|
"lij", |
|
"lmo", |
|
"ln", |
|
"lo", |
|
"lrc", |
|
"lt", |
|
"ltg", |
|
"lv", |
|
"mai", |
|
"map-bms", |
|
"mdf", |
|
"mg", |
|
"mh", |
|
"mhr", |
|
"mi", |
|
"min", |
|
"mk", |
|
"ml", |
|
"mn", |
|
"mr", |
|
"mrj", |
|
"ms", |
|
"mt", |
|
"mus", |
|
"mwl", |
|
"my", |
|
"myv", |
|
"mzn", |
|
"na", |
|
"nah", |
|
"nap", |
|
"nds", |
|
"nds-nl", |
|
"ne", |
|
"new", |
|
"ng", |
|
"nl", |
|
"nn", |
|
"no", |
|
"nov", |
|
"nrm", |
|
"nso", |
|
"nv", |
|
"ny", |
|
"oc", |
|
"olo", |
|
"om", |
|
"or", |
|
"os", |
|
"pa", |
|
"pag", |
|
"pam", |
|
"pap", |
|
"pcd", |
|
"pdc", |
|
"pfl", |
|
"pi", |
|
"pih", |
|
"pl", |
|
"pms", |
|
"pnb", |
|
"pnt", |
|
"ps", |
|
"pt", |
|
"qu", |
|
"rm", |
|
"rmy", |
|
"rn", |
|
"ro", |
|
"roa-rup", |
|
"roa-tara", |
|
"ru", |
|
"rue", |
|
"rw", |
|
"sa", |
|
"sah", |
|
"sat", |
|
"sc", |
|
"scn", |
|
"sco", |
|
"sd", |
|
"se", |
|
"sg", |
|
"sh", |
|
"si", |
|
"simple", |
|
"sk", |
|
"sl", |
|
"sm", |
|
"sn", |
|
"so", |
|
"sq", |
|
"sr", |
|
"srn", |
|
"ss", |
|
"st", |
|
"stq", |
|
"su", |
|
"sv", |
|
"sw", |
|
"szl", |
|
"ta", |
|
"tcy", |
|
"te", |
|
"tet", |
|
"tg", |
|
"th", |
|
"ti", |
|
"tk", |
|
"tl", |
|
"tn", |
|
"to", |
|
"tpi", |
|
"tr", |
|
"ts", |
|
"tt", |
|
"tum", |
|
"tw", |
|
"ty", |
|
"tyv", |
|
"udm", |
|
"ug", |
|
"uk", |
|
"ur", |
|
"uz", |
|
"ve", |
|
"vec", |
|
"vep", |
|
"vi", |
|
"vls", |
|
"vo", |
|
"wa", |
|
"war", |
|
"wo", |
|
"wuu", |
|
"xal", |
|
"xh", |
|
"xmf", |
|
"yi", |
|
"yo", |
|
"za", |
|
"zea", |
|
"zh", |
|
"zh-classical", |
|
"zh-min-nan", |
|
"zh-yue", |
|
"zu", |
|
] |
|
|
|
|
|
|
|
MEDIA_ALIASES = { |
|
"ab": ["Медиа", "Файл", "Афаил", "Амедиа", "Изображение"], |
|
"ace": ["Beureukaih", "Gambar", "Alat", "Berkas"], |
|
"ady": ["Медиа"], |
|
"af": ["Lêer", "Beeld"], |
|
"als": ["Medium", "Datei", "Bild"], |
|
"am": ["ፋይል", "ስዕል"], |
|
"an": ["Imachen", "Imagen"], |
|
"ang": ["Ymele", "Biliþ"], |
|
"ar": ["ميديا", "صورة", "وسائط", "ملف"], |
|
"arc": ["ܠܦܦܐ", "ܡܝܕܝܐ"], |
|
"arz": ["ميديا", "صورة", "وسائط", "ملف"], |
|
"as": ["চিত্ৰ", "चित्र", "চিত্র", "মাধ্যম"], |
|
"ast": ["Imaxen", "Ficheru", "Imaxe", "Archivu", "Imagen", "Medios"], |
|
"atj": ["Tipatcimoctakewin", "Natisinahikaniwoc"], |
|
"av": ["Медиа", "Файл", "Изображение"], |
|
"ay": ["Medio", "Archivo", "Imagen"], |
|
"az": ["Mediya", "Şəkil", "Fayl"], |
|
"azb": ["رسانه", "تصویر", "مدیا", "فایل", "رسانهای"], |
|
"ba": ["Медиа", "Рәсем", "Файл", "Изображение"], |
|
"bar": ["Medium", "Datei", "Bild"], |
|
"bat-smg": ["Vaizdas", "Medėjė", "Abruozdielis"], |
|
"bcl": ["Medio", "Ladawan"], |
|
"be": ["Мультымедыя", "Файл", "Выява"], |
|
"be-x-old": ["Мэдыя", "Файл", "Выява"], |
|
"bg": ["Медия", "Файл", "Картинка"], |
|
"bh": ["मीडिया", "चित्र"], |
|
"bjn": ["Barakas", "Gambar", "Berkas"], |
|
"bm": ["Média", "Fichier"], |
|
"bn": ["চিত্র", "মিডিয়া"], |
|
"bpy": ["ছবি", "মিডিয়া"], |
|
"br": ["Skeudenn", "Restr"], |
|
"bs": ["Mediji", "Slika", "Datoteka", "Medija"], |
|
"bug": ["Gambar", "Berkas"], |
|
"bxr": ["Файл", "Меди", "Изображение"], |
|
"ca": ["Fitxer", "Imatge"], |
|
"cbk-zam": ["Medio", "Archivo", "Imagen"], |
|
"cdo": ["文件", "媒體", "圖像", "檔案"], |
|
"ce": ["Хlум", "Медиа", "Сурт", "Файл", "Медйа", "Изображение"], |
|
"ceb": ["Payl", "Medya", "Imahen"], |
|
"ch": ["Litratu"], |
|
"ckb": ["میدیا", "پەڕگە"], |
|
"co": ["Immagine"], |
|
"crh": ["Медиа", "Resim", "Файл", "Fayl", "Ресим"], |
|
"cs": ["Soubor", "Média", "Obrázok"], |
|
"csb": ["Òbrôzk", "Grafika"], |
|
"cu": ["Видъ", "Ви́дъ", "Дѣло", "Срѣдьства"], |
|
"cv": ["Медиа", "Ӳкерчĕк", "Изображение"], |
|
"cy": ["Delwedd"], |
|
"da": ["Billede", "Fil"], |
|
"de": ["Medium", "Datei", "Bild"], |
|
"din": ["Ciɛl", "Apamduööt"], |
|
"diq": ["Medya", "Dosya"], |
|
"dsb": ["Wobraz", "Dataja", "Bild", "Medija"], |
|
"dty": ["चित्र", "मिडिया"], |
|
"dv": ["ފައިލު", "މީޑިއާ", "ފައިލް"], |
|
"el": ["Εικόνα", "Αρχείο", "Μέσο", "Μέσον"], |
|
"eml": ["Immagine"], |
|
"eo": ["Dosiero", "Aŭdvidaĵo"], |
|
"es": ["Medio", "Archivo", "Imagen"], |
|
"et": ["Pilt", "Fail", "Meedia"], |
|
"eu": ["Irudi", "Fitxategi"], |
|
"ext": ["Archivu", "Imagen", "Mediu"], |
|
"fa": ["رسانه", "تصویر", "مدیا", "پرونده", "رسانهای"], |
|
"ff": ["Média", "Fichier"], |
|
"fi": ["Kuva", "Tiedosto"], |
|
"fiu-vro": ["Pilt", "Meediä"], |
|
"fo": ["Miðil", "Mynd"], |
|
"fr": ["Média", "Fichier"], |
|
"frp": ["Émâge", "Fichiér", "Mèdia"], |
|
"frr": ["Medium", "Datei", "Bild"], |
|
"fur": ["Immagine", "Figure"], |
|
"fy": ["Ofbyld"], |
|
"ga": ["Íomhá", "Meán"], |
|
"gag": ["Mediya", "Medya", "Resim", "Dosya", "Dosye"], |
|
"gan": ["媒体文件", "文件", "文檔", "档案", "媒體", "图像", "圖像", "媒体", "檔案"], |
|
"gd": ["Faidhle", "Meadhan"], |
|
"gl": ["Imaxe", "Ficheiro", "Arquivo", "Imagem"], |
|
"glk": ["رسانه", "تصویر", "پرونده", "فاىل", "رسانهای", "مديا"], |
|
"gn": ["Medio", "Imagen", "Ta'ãnga"], |
|
"gom": ["माध्यम", "मिडिया", "फायल"], |
|
"gor": ["Gambar", "Berkas"], |
|
"got": ["𐍆𐌴𐌹𐌻𐌰"], |
|
"gu": ["દ્રશ્ય-શ્રાવ્ય (મિડિયા)", "દ્રશ્ય-શ્રાવ્ય_(મિડિયા)", "ચિત્ર"], |
|
"gv": ["Coadan", "Meanyn"], |
|
"hak": ["文件", "媒體", "圖像", "檔案"], |
|
"haw": ["Kiʻi", "Waihona", "Pāpaho"], |
|
"he": ["תמונה", "קו", "מדיה", "קובץ"], |
|
"hi": ["मीडिया", "चित्र"], |
|
"hif": ["file", "saadhan"], |
|
"hr": ["Mediji", "DT", "Slika", "F", "Datoteka"], |
|
"hsb": ["Wobraz", "Dataja", "Bild"], |
|
"ht": ["Imaj", "Fichye", "Medya"], |
|
"hu": ["Kép", "Fájl", "Média"], |
|
"hy": ["Պատկեր", "Մեդիա"], |
|
"ia": ["Imagine", "Multimedia"], |
|
"id": ["Gambar", "Berkas"], |
|
"ig": ["Nká", "Midia", "Usòrò", "Ákwúkwó orünotu", "Ákwúkwó_orünotu"], |
|
"ii": ["媒体文件", "文件", "档案", "图像", "媒体"], |
|
"ilo": ["Midia", "Papeles"], |
|
"inh": ["Медиа", "Файл", "Изображение"], |
|
"io": ["Imajo", "Arkivo"], |
|
"is": ["Miðill", "Mynd"], |
|
"it": ["Immagine"], |
|
"ja": ["メディア", "ファイル", "画像"], |
|
"jbo": ["velsku", "datnyvei"], |
|
"jv": ["Barkas", "Medhia", "Gambar", "Médhia"], |
|
"ka": ["მედია", "სურათი", "ფაილი"], |
|
"kaa": ["Swret", "Таспа", "سۋرەت", "Taspa", "Su'wret", "Сурет", "تاسپا"], |
|
"kab": ["Tugna"], |
|
"kbd": ["Медиа", "Файл"], |
|
"kbp": ["Média", "Fichier"], |
|
"kg": ["Fisye"], |
|
"kk": ["Swret", "سۋرەت", "Таспа", "Taspa", "Сурет", "تاسپا"], |
|
"kl": ["Billede", "Fiileq", "Fil"], |
|
"km": ["ឯកសារ", "រូបភាព", "មេឌា", "មីឌា"], |
|
"kn": ["ಚಿತ್ರ", "ಮೀಡಿಯ"], |
|
"ko": ["미디어", "파일", "그림"], |
|
"koi": ["Медиа", "Файл", "Изображение"], |
|
"krc": ["Медиа", "Файл", "Изображение"], |
|
"ks": ["میڈیا", "فَیِل"], |
|
"ksh": ["Beld", "Meedije", "Medie", "Belld", "Medium", "Datei", "Meedijum", "Bild"], |
|
"ku": ["میدیا", "پەڕگە", "Medya", "Wêne"], |
|
"kv": ["Медиа", "Файл", "Изображение"], |
|
"kw": ["Restren"], |
|
"ky": ["Медиа", "Файл"], |
|
"la": ["Imago", "Fasciculus"], |
|
"lad": ["Dossia", "Medya", "Archivo", "Dosya", "Imagen", "Meddia"], |
|
"lb": ["Fichier", "Bild"], |
|
"lbe": ["Медиа", "Сурат", "Изображение"], |
|
"lez": ["Медиа", "Mediya", "Файл", "Şəkil", "Изображение"], |
|
"lfn": ["Fix"], |
|
"li": ["Afbeelding", "Plaetje", "Aafbeilding"], |
|
"lij": ["Immaggine", "Immagine"], |
|
"lmo": ["Immagine", "Imàjine", "Archivi"], |
|
"ln": ["Média", "Fichier"], |
|
"lo": ["ສື່ອ", "ສື່", "ຮູບ"], |
|
"lrc": ["رسانه", "تصویر", "رسانهای", "جانیا", "أسگ", "ڤارئسگأر"], |
|
"lt": ["Vaizdas", "Medija"], |
|
"ltg": ["Medeja", "Fails"], |
|
"lv": ["Attēls"], |
|
"mai": ["मेडिया", "फाइल"], |
|
"map-bms": ["Barkas", "Medhia", "Gambar", "Médhia"], |
|
"mdf": ["Медиа", "Няйф", "Изображение"], |
|
"mg": ["Rakitra", "Sary", "Média"], |
|
"mhr": ["Медиа", "Файл", "Изображение"], |
|
"min": ["Gambar", "Berkas"], |
|
"mk": ["Податотека", "Медија", "Медиум", "Слика"], |
|
"ml": ["പ്രമാണം", "ചി", "മീഡിയ", "പ്ര", "ചിത്രം"], |
|
"mn": ["Медиа", "Файл", "Зураг"], |
|
"mr": ["चित्र", "मिडिया"], |
|
"mrj": ["Медиа", "Файл", "Изображение"], |
|
"ms": ["Fail", "Imej"], |
|
"mt": ["Midja", "Medja", "Stampa"], |
|
"mwl": ["Multimédia", "Fexeiro", "Ficheiro", "Arquivo", "Imagem"], |
|
"my": ["ဖိုင်", "မီဒီယာ"], |
|
"myv": ["Медия", "Артовкс", "Изображение"], |
|
"mzn": ["رسانه", "تصویر", "مهدیا", "مدیا", "پرونده", "رسانهای"], |
|
"nah": ["Mēdiatl", "Īxiptli", "Imagen"], |
|
"nap": ["Fiùra", "Immagine"], |
|
"nds": ["Datei", "Bild"], |
|
"nds-nl": ["Ofbeelding", "Afbeelding", "Bestaand"], |
|
"ne": ["मीडिया", "चित्र"], |
|
"new": ["किपा", "माध्यम"], |
|
"nl": ["Bestand", "Afbeelding"], |
|
"nn": ["Fil", "Bilde", "Filpeikar"], |
|
"no": ["Fil", "Medium", "Bilde"], |
|
"nov": [], |
|
"nrm": ["Média", "Fichier"], |
|
"nso": ["Seswantšho"], |
|
"nv": ["Eʼelyaaígíí"], |
|
"oc": ["Imatge", "Fichièr", "Mèdia"], |
|
"olo": ["Kuva", "Medii", "Failu"], |
|
"or": ["ମାଧ୍ୟମ", "ଫାଇଲ"], |
|
"os": ["Ныв", "Медиа", "Файл", "Изображение"], |
|
"pa": ["ਤਸਵੀਰ", "ਮੀਡੀਆ"], |
|
"pcd": ["Média", "Fichier"], |
|
"pdc": ["Medium", "Datei", "Bild", "Feil"], |
|
"pfl": ["Dadai", "Medium", "Datei", "Bild"], |
|
"pi": ["मीडिया", "पटिमा"], |
|
"pl": ["Plik", "Grafika"], |
|
"pms": ["Figura", "Immagine"], |
|
"pnb": ["میڈیا", "تصویر", "فائل"], |
|
"pnt": ["Εικόνα", "Αρχείον", "Εικόναν", "Μέσον"], |
|
"ps": ["انځور", "رسنۍ", "دوتنه"], |
|
"pt": ["Multimédia", "Ficheiro", "Arquivo", "Imagem"], |
|
"qu": ["Midya", "Imagen", "Rikcha"], |
|
"rm": ["Multimedia", "Datoteca"], |
|
"rmy": ["Fişier", "Mediya", "Chitro", "Imagine"], |
|
"ro": ["Fişier", "Imagine", "Fișier"], |
|
"roa-rup": ["Fişier", "Imagine", "Fișier"], |
|
"roa-tara": ["Immagine"], |
|
"ru": ["Медиа", "Файл", "Изображение"], |
|
"rue": ["Медіа", "Медиа", "Файл", "Изображение", "Зображення"], |
|
"rw": ["Dosiye", "Itangazamakuru"], |
|
"sa": ["चित्रम्", "माध्यमम्", "सञ्चिका", "माध्यम", "चित्रं"], |
|
"sah": ["Миэдьийэ", "Ойуу", "Билэ", "Изображение"], |
|
"sat": ["ᱨᱮᱫ", "ᱢᱤᱰᱤᱭᱟ"], |
|
"sc": ["Immàgini"], |
|
"scn": ["Immagine", "Mmàggini", "Mèdia"], |
|
"sd": ["عڪس", "ذريعات", "فائل"], |
|
"se": ["Fiila"], |
|
"sg": ["Média", "Fichier"], |
|
"sh": ["Mediji", "Slika", "Медија", "Datoteka", "Medija", "Слика"], |
|
"si": ["රූපය", "මාධ්යය", "ගොනුව"], |
|
"sk": ["Súbor", "Obrázok", "Médiá"], |
|
"sl": ["Slika", "Datoteka"], |
|
"sq": ["Figura", "Skeda"], |
|
"sr": ["Датотека", "Medij", "Slika", "Медија", "Datoteka", "Медиј", "Medija", "Слика"], |
|
"srn": ["Afbeelding", "Gefre"], |
|
"stq": ["Bielde", "Bild"], |
|
"su": ["Média", "Gambar"], |
|
"sv": ["Fil", "Bild"], |
|
"sw": ["Faili", "Picha"], |
|
"szl": ["Plik", "Grafika"], |
|
"ta": ["படிமம்", "ஊடகம்"], |
|
"tcy": ["ಮಾದ್ಯಮೊ", "ಫೈಲ್"], |
|
"te": ["ఫైలు", "దస్త్రం", "బొమ్మ", "మీడియా"], |
|
"tet": ["Imajen", "Arquivo", "Imagem"], |
|
"tg": ["Акс", "Медиа"], |
|
"th": ["ไฟล์", "สื่อ", "ภาพ"], |
|
"ti": ["ፋይል", "ሜድያ"], |
|
"tk": ["Faýl"], |
|
"tl": ["Midya", "Talaksan"], |
|
"tpi": ["Fail"], |
|
"tr": ["Medya", "Resim", "Dosya", "Ortam"], |
|
"tt": ["Медиа", "Рәсем", "Файл", "Räsem", "Изображение"], |
|
"ty": ["Média", "Fichier"], |
|
"tyv": ["Медиа", "Файл", "Изображение"], |
|
"udm": ["Медиа", "Файл", "Суред", "Изображение"], |
|
"ug": ["ۋاسىتە", "ھۆججەت"], |
|
"uk": ["Медіа", "Медиа", "Файл", "Изображение", "Зображення"], |
|
"ur": ["میڈیا", "تصویر", "وسیط", "زریعہ", "فائل", "ملف"], |
|
"uz": ["Mediya", "Tasvir", "Fayl"], |
|
"vec": ["Immagine", "Imàjine", "Mèdia"], |
|
"vep": ["Pilt", "Fail"], |
|
"vi": ["Phương_tiện", "Tập_tin", "Hình", "Tập tin", "Phương tiện"], |
|
"vls": ["Afbeelding", "Ofbeeldienge"], |
|
"vo": ["Ragiv", "Magod", "Nünamakanäd"], |
|
"wa": ["Imådje"], |
|
"war": ["Medya", "Fayl", "Paypay"], |
|
"wo": ["Xibaarukaay", "Dencukaay"], |
|
"wuu": ["文件", "档案", "图像", "媒体"], |
|
"xal": ["Аһар", "Боомг", "Изображение", "Зург"], |
|
"xmf": ["მედია", "სურათი", "ფაილი"], |
|
"yi": ["מעדיע", "תמונה", "טעקע", "בילד"], |
|
"yo": ["Fáìlì", "Amóhùnmáwòrán", "Àwòrán"], |
|
"za": ["媒体文件", "文件", "档案", "图像", "媒体"], |
|
"zea": ["Afbeelding", "Plaetje"], |
|
"zh": ["媒体文件", "F", "文件", "媒體", "档案", "图像", "圖像", "媒体", "檔案"], |
|
"zh-classical": ["文件", "媒體", "圖像", "檔案"], |
|
"zh-min-nan": ["tóng-àn", "文件", "媒體", "Mûi-thé", "圖像", "檔案"], |
|
"zh-yue": ["檔", "档", "文件", "图", "媒體", "圖", "档案", "图像", "圖像", "媒体", "檔案"], |
|
} |
|
|
|
|
|
|
|
CAT_ALIASES = { |
|
"ab": ["Категория", "Акатегориа"], |
|
"ace": ["Kawan", "Kategori"], |
|
"af": ["Kategorie"], |
|
"ak": ["Nkyekyem"], |
|
"als": ["Kategorie"], |
|
"am": ["መደብ"], |
|
"an": ["Categoría"], |
|
"ang": ["Flocc"], |
|
"ar": ["تصنيف"], |
|
"arc": ["ܣܕܪܐ"], |
|
"arz": ["تصنيف"], |
|
"as": ["CAT", "শ্ৰেণী", "श्रेणी", "শ্রেণী"], |
|
"ast": ["Categoría"], |
|
"atj": ["Tipanictawin"], |
|
"av": ["Категория"], |
|
"ay": ["Categoría"], |
|
"az": ["Kateqoriya"], |
|
"azb": ["بؤلمه"], |
|
"ba": ["Төркөм", "Категория"], |
|
"bar": ["Kategorie"], |
|
"bat-smg": ["Kategorija", "Kateguorėjė"], |
|
"bcl": ["Kategorya"], |
|
"be": ["Катэгорыя"], |
|
"be-x-old": ["Катэгорыя"], |
|
"bg": ["Категория"], |
|
"bh": ["श्रेणी"], |
|
"bjn": ["Tumbung", "Kategori"], |
|
"bm": ["Catégorie"], |
|
"bn": ["বিষয়শ্রেণী", "വിഭാഗം"], |
|
"bpy": ["থাক"], |
|
"br": ["Rummad"], |
|
"bs": ["Kategorija"], |
|
"bug": ["Kategori"], |
|
"bxr": ["Категори", "Категория"], |
|
"ca": ["Categoria"], |
|
"cbk-zam": ["Categoría"], |
|
"cdo": ["分類"], |
|
"ce": ["Категори", "Тоба", "Кадегар"], |
|
"ceb": ["Kategoriya"], |
|
"ch": ["Katigoria"], |
|
"ckb": ["پ", "پۆل"], |
|
"co": ["Categoria"], |
|
"crh": ["Категория", "Kategoriya"], |
|
"cs": ["Kategorie"], |
|
"csb": ["Kategòrëjô"], |
|
"cu": ["Катигорї", "Категория", "Катигорїꙗ"], |
|
"cv": ["Категори"], |
|
"cy": ["Categori"], |
|
"da": ["Kategori"], |
|
"de": ["Kategorie"], |
|
"din": ["Bekätakthook"], |
|
"diq": ["Kategoriye", "Kategori"], |
|
"dsb": ["Kategorija"], |
|
"dty": ["श्रेणी"], |
|
"dv": ["ޤިސްމު"], |
|
"el": ["Κατηγορία"], |
|
"eml": ["Categoria"], |
|
"eo": ["Kategorio"], |
|
"es": ["CAT", "Categoría"], |
|
"et": ["Kategooria"], |
|
"eu": ["Kategoria"], |
|
"ext": ["Categoría", "Categoria"], |
|
"fa": ["رده"], |
|
"ff": ["Catégorie"], |
|
"fi": ["Luokka"], |
|
"fiu-vro": ["Katõgooria"], |
|
"fo": ["Bólkur"], |
|
"fr": ["Catégorie"], |
|
"frp": ["Catègorie"], |
|
"frr": ["Kategorie"], |
|
"fur": ["Categorie"], |
|
"fy": ["Kategory"], |
|
"ga": ["Rang", "Catagóir"], |
|
"gag": ["Kategori", "Kategoriya"], |
|
"gan": ["分類", "分类"], |
|
"gd": ["Roinn-seòrsa"], |
|
"gl": ["Categoría"], |
|
"glk": ["جرگه", "رده"], |
|
"gn": ["Ñemohenda"], |
|
"gom": ["वर्ग", "श्रेणी"], |
|
"gor": ["Dalala"], |
|
"got": ["𐌷𐌰𐌽𐍃𐌰"], |
|
"gu": ["શ્રેણી", "CAT", "શ્રે"], |
|
"gv": ["Ronney"], |
|
"hak": ["分類"], |
|
"haw": ["Māhele"], |
|
"he": ["קטגוריה", "קט"], |
|
"hi": ["श्र", "श्रेणी"], |
|
"hif": ["vibhag"], |
|
"hr": ["CT", "KT", "Kategorija"], |
|
"hsb": ["Kategorija"], |
|
"ht": ["Kategori"], |
|
"hu": ["Kategória"], |
|
"hy": ["Կատեգորիա"], |
|
"ia": ["Categoria"], |
|
"id": ["Kategori"], |
|
"ie": ["Categorie"], |
|
"ig": ["Ébéonọr", "Òtù"], |
|
"ii": ["分类"], |
|
"ilo": ["Kategoria"], |
|
"inh": ["ОагӀат"], |
|
"io": ["Kategorio"], |
|
"is": ["Flokkur"], |
|
"it": ["CAT", "Categoria"], |
|
"ja": ["カテゴリ"], |
|
"jbo": ["klesi"], |
|
"jv": ["Kategori"], |
|
"ka": ["კატეგორია"], |
|
"kaa": ["Sanat", "Kategoriya", "Санат", "سانات"], |
|
"kab": ["Taggayt"], |
|
"kbd": ["Категория", "Категориэ"], |
|
"kbp": ["Catégorie"], |
|
"kg": ["Kalasi"], |
|
"kk": ["Sanat", "Санат", "سانات"], |
|
"kl": ["Sumut_atassuseq", "Kategori", "Sumut atassuseq"], |
|
"km": ["ចំនាត់ថ្នាក់ក្រុម", "ចំណាត់ក្រុម", "ចំណាត់ថ្នាក់ក្រុម"], |
|
"kn": ["ವರ್ಗ"], |
|
"ko": ["분류"], |
|
"koi": ["Категория"], |
|
"krc": ["Категория"], |
|
"ks": ["زٲژ"], |
|
"ksh": ["Saachjropp", "Saachjrop", "Katejori", "Kategorie", "Saachjrupp", "Kattejori", "Sachjrop"], |
|
"ku": ["Kategorî", "پۆل"], |
|
"kv": ["Категория"], |
|
"kw": ["Class", "Klass"], |
|
"ky": ["Категория"], |
|
"la": ["Categoria"], |
|
"lad": ["Kateggoría", "Katēggoría", "Categoría"], |
|
"lb": ["Kategorie"], |
|
"lbe": ["Категория"], |
|
"lez": ["Категория"], |
|
"lfn": ["Categoria"], |
|
"li": ["Categorie", "Kategorie"], |
|
"lij": ["Categorîa", "Categoria"], |
|
"lmo": ["Categuria", "Categoria"], |
|
"ln": ["Catégorie"], |
|
"lo": ["ໝວດ"], |
|
"lrc": ["دأسە"], |
|
"lt": ["Kategorija"], |
|
"ltg": ["Kategoreja"], |
|
"lv": ["Kategorija"], |
|
"mai": ["CA", "श्रेणी"], |
|
"map-bms": ["Kategori"], |
|
"mdf": ["Категорие", "Категория"], |
|
"mg": ["Sokajy", "Catégorie"], |
|
"mhr": ["Категория", "Категорий"], |
|
"min": ["Kategori"], |
|
"mk": ["Категорија"], |
|
"ml": ["വിഭാഗം", "വി", "വർഗ്ഗം", "വ"], |
|
"mn": ["Ангилал"], |
|
"mr": ["वर्ग"], |
|
"mrj": ["Категори", "Категория"], |
|
"ms": ["Kategori"], |
|
"mt": ["Kategorija"], |
|
"mwl": ["Catadorie", "Categoria"], |
|
"my": ["ကဏ္ဍ"], |
|
"myv": ["Категория"], |
|
"mzn": ["رج", "رده"], |
|
"nah": ["Neneuhcāyōtl", "Categoría"], |
|
"nap": ["Categurìa", "Categoria"], |
|
"nds": ["Kategorie"], |
|
"nds-nl": ["Categorie", "Kattegerie", "Kategorie"], |
|
"ne": ["श्रेणी"], |
|
"new": ["पुचः"], |
|
"nl": ["Categorie"], |
|
"nn": ["Kategori"], |
|
"no": ["Kategori"], |
|
"nrm": ["Catégorie"], |
|
"nso": ["Setensele"], |
|
"nv": ["Tʼááłáhági_átʼéego", "Tʼááłáhági átʼéego"], |
|
"oc": ["Categoria"], |
|
"olo": ["Kategourii"], |
|
"or": ["ବିଭାଗ", "ଶ୍ରେଣୀ"], |
|
"os": ["Категори"], |
|
"pa": ["ਸ਼੍ਰੇਣੀ"], |
|
"pcd": ["Catégorie"], |
|
"pdc": ["Abdeeling", "Kategorie"], |
|
"pfl": ["Kadegorie", "Sachgrubb", "Kategorie"], |
|
"pi": ["विभाग"], |
|
"pl": ["Kategoria"], |
|
"pms": ["Categorìa"], |
|
"pnb": ["گٹھ"], |
|
"pnt": ["Κατηγορίαν"], |
|
"ps": ["وېشنيزه"], |
|
"pt": ["Categoria"], |
|
"qu": ["Katiguriya"], |
|
"rm": ["Categoria"], |
|
"rmy": ["Shopni"], |
|
"ro": ["Categorie"], |
|
"roa-rup": ["Categorie"], |
|
"roa-tara": ["Categoria"], |
|
"ru": ["Категория", "К"], |
|
"rue": ["Категория", "Катеґорія"], |
|
"rw": ["Ikiciro"], |
|
"sa": ["वर्गः"], |
|
"sah": ["Категория"], |
|
"sat": ["ᱛᱷᱚᱠ"], |
|
"sc": ["Categoria"], |
|
"scn": ["Catigurìa"], |
|
"sd": ["زمرو"], |
|
"se": ["Kategoriija"], |
|
"sg": ["Catégorie"], |
|
"sh": ["Kategorija", "Категорија"], |
|
"si": ["ප්රවර්ගය"], |
|
"sk": ["Kategória"], |
|
"sl": ["Kategorija"], |
|
"sq": ["Kategoria", "Kategori"], |
|
"sr": ["Kategorija", "Категорија"], |
|
"srn": ["Categorie", "Guru"], |
|
"stq": ["Kategorie"], |
|
"su": ["Kategori"], |
|
"sv": ["Kategori"], |
|
"sw": ["Jamii"], |
|
"szl": ["Kategoryjo", "Kategoria"], |
|
"ta": ["பகுப்பு"], |
|
"tcy": ["ವರ್ಗೊ"], |
|
"te": ["వర్గం"], |
|
"tet": ["Kategoría", "Kategoria"], |
|
"tg": ["Гурӯҳ"], |
|
"th": ["หมวดหมู่"], |
|
"ti": ["መደብ"], |
|
"tk": ["Kategoriýa"], |
|
"tl": ["Kategorya", "Kaurian"], |
|
"tpi": ["Grup"], |
|
"tr": ["Kategori", "KAT"], |
|
"tt": ["Төркем", "Törkem", "Категория"], |
|
"ty": ["Catégorie"], |
|
"tyv": ["Аңгылал", "Категория"], |
|
"udm": ["Категория"], |
|
"ug": ["تۈر"], |
|
"uk": ["Категория", "Категорія"], |
|
"ur": ["زمرہ"], |
|
"uz": ["Turkum", "Kategoriya"], |
|
"vec": ["Categoria"], |
|
"vep": ["Kategorii"], |
|
"vi": ["Thể_loại", "Thể loại"], |
|
"vls": ["Categorie"], |
|
"vo": ["Klad"], |
|
"wa": ["Categoreye"], |
|
"war": ["Kaarangay"], |
|
"wo": ["Wàll", "Catégorie"], |
|
"wuu": ["分类"], |
|
"xal": ["Янз", "Әәшл"], |
|
"xmf": ["კატეგორია"], |
|
"yi": ["קאטעגאריע", "קאַטעגאָריע"], |
|
"yo": ["Ẹ̀ka"], |
|
"za": ["分类"], |
|
"zea": ["Categorie"], |
|
"zh": ["分类", "分類", "CAT"], |
|
"zh-classical": ["分類", "CAT"], |
|
"zh-min-nan": ["分類", "Lūi-pia̍t"], |
|
"zh-yue": ["分类", "分類", "类", "類"], |
|
} |
|
|
|
_BASE_URL_TMPL = "https://dumps.wikimedia.org/{lang}wiki/{date}/" |
|
_INFO_FILE = "dumpstatus.json" |
|
|
|
|
|
_VERSION = datasets.Version("2.0.0", "") |
|
|
|
|
|
class WikipediaConfig(datasets.BuilderConfig): |
|
"""BuilderConfig for Wikipedia.""" |
|
|
|
def __init__(self, language=None, date=None, version=_VERSION, **kwargs): |
|
"""BuilderConfig for Wikipedia. |
|
|
|
Args: |
|
language: string, the language code for the Wikipedia dump to use. |
|
date: string, date of the Wikipedia dump in YYYYMMDD format. A list of |
|
available dates can be found at https://dumps.wikimedia.org/enwiki/. |
|
**kwargs: keyword arguments forwarded to super. |
|
""" |
|
super().__init__( |
|
name=f"{date}.{language}", |
|
description=f"Wikipedia dataset for {language}, parsed from {date} dump.", |
|
version=version, |
|
**kwargs, |
|
) |
|
self.date = date |
|
self.language = language |
|
|
|
|
|
_DATE = "20220301" |
|
|
|
|
|
PROCESSED_CONFIG_TO_NUM_SHARDS = { |
|
"20220301.de": 18, |
|
"20220301.en": 41, |
|
"20220301.fr": 15, |
|
"20220301.frr": 1, |
|
"20220301.it": 10, |
|
"20220301.simple": 1, |
|
} |
|
|
|
|
|
class Wikipedia(datasets.ArrowBasedBuilder): |
|
"""Wikipedia dataset.""" |
|
|
|
|
|
BUILDER_CONFIG_CLASS = WikipediaConfig |
|
BUILDER_CONFIGS = [ |
|
WikipediaConfig( |
|
language=lang, |
|
date=_DATE, |
|
) |
|
for lang in WIKIPEDIA_LANGUAGES |
|
] |
|
|
|
BATCH_SIZE = 1000 |
|
|
|
def _info(self): |
|
return datasets.DatasetInfo( |
|
description=_DESCRIPTION, |
|
features=datasets.Features( |
|
{ |
|
"id": datasets.Value("string"), |
|
"url": datasets.Value("string"), |
|
"title": datasets.Value("string"), |
|
"text": datasets.Value("string"), |
|
} |
|
), |
|
|
|
supervised_keys=None, |
|
homepage="https://dumps.wikimedia.org", |
|
citation=_CITATION, |
|
license=_LICENSE, |
|
) |
|
|
|
def _split_generators(self, dl_manager): |
|
if self.config.name in PROCESSED_CONFIG_TO_NUM_SHARDS: |
|
num_shards = PROCESSED_CONFIG_TO_NUM_SHARDS[self.config.name] |
|
parquet_urls = [ |
|
os.path.join("data", self.config.name, f"train-{i:05d}-of-{num_shards:05d}.parquet") |
|
for i in range(num_shards) |
|
] |
|
|
|
downloaded_files = dl_manager.download({"parquet": parquet_urls}) |
|
files = downloaded_files["parquet"] |
|
is_processed = True |
|
else: |
|
def _base_url(lang): |
|
return _BASE_URL_TMPL.format(lang=lang.replace("-", "_"), date=self.config.date) |
|
|
|
lang = self.config.language |
|
|
|
info_url = _base_url(lang) + _INFO_FILE |
|
|
|
downloaded_files = dl_manager.download_and_extract({"info": info_url}) |
|
|
|
xml_urls = [] |
|
total_bytes = 0 |
|
with open(downloaded_files["info"], encoding="utf-8") as f: |
|
dump_info = json.load(f) |
|
multistream_dump_info = dump_info["jobs"]["articlesmultistreamdump"] |
|
assert ( |
|
multistream_dump_info["status"] == "done" |
|
), "Specified dump (%s) multistream status is not 'done': %s" % ( |
|
_base_url(lang), |
|
multistream_dump_info["status"], |
|
) |
|
|
|
for fname, info in multistream_dump_info["files"].items(): |
|
if ".xml" not in fname: |
|
continue |
|
total_bytes += info["size"] |
|
xml_urls.append(_base_url(lang) + fname) |
|
|
|
|
|
downloaded_files = dl_manager.download({"xml": xml_urls}) |
|
files = downloaded_files["xml"] |
|
is_processed = False |
|
|
|
return [ |
|
datasets.SplitGenerator( |
|
name=datasets.Split.TRAIN, gen_kwargs={"files": files, "is_processed": is_processed} |
|
) |
|
] |
|
|
|
def _generate_tables(self, files, is_processed): |
|
if is_processed: |
|
batch_idx = 0 |
|
for file in files: |
|
with open(file, "rb") as f: |
|
f = pq.ParquetFile(f) |
|
for batch in f.iter_batches(batch_size=self.BATCH_SIZE): |
|
yield batch_idx, pa.Table.from_batches([batch]) |
|
batch_idx += 1 |
|
else: |
|
batch = [] |
|
batch_idx = 0 |
|
for file in files: |
|
logger.info("generating examples from = %s", file) |
|
for content in _extract_content(file): |
|
example = _clean_content(content, self.config.language) |
|
if example is None: |
|
continue |
|
batch.append(example) |
|
if len(batch) >= self.BATCH_SIZE: |
|
pa_table = pa.Table.from_pylist(batch) |
|
yield batch_idx, pa_table |
|
batch = [] |
|
batch_idx += 1 |
|
|
|
if batch: |
|
pa_table = pa.Table.from_pylist(batch) |
|
yield batch_idx, pa_table |
|
|
|
|
|
def _extract_content(file): |
|
"""Extracts article content from a single WikiMedia XML file.""" |
|
print("Extracting content from", file) |
|
with open(file, "rb") as f: |
|
f = bz2.BZ2File(filename=f) |
|
|
|
utf_f = codecs.getreader("utf-8")(f) |
|
context = etree.iterparse(utf_f, events=("end",)) |
|
for unused_event, elem in context: |
|
if not elem.tag.endswith("page"): |
|
continue |
|
namespace = elem.tag[:-4] |
|
title = elem.find(f"./{namespace}title").text |
|
ns = elem.find(f"./{namespace}ns").text |
|
id_ = elem.find(f"./{namespace}id").text |
|
red_ = elem.find(f"./{namespace}redirect") |
|
|
|
|
|
if ns != "0": |
|
elem.clear() |
|
continue |
|
|
|
raw_content = elem.find(f"./{namespace}revision/{namespace}text").text |
|
elem.clear() |
|
|
|
|
|
if raw_content is None or red_ is not None: |
|
continue |
|
|
|
yield id_, title, raw_content |
|
|
|
|
|
def _parse_and_clean_wikicode(raw_content, parser, language): |
|
"""Strips formatting and unwanted sections from raw page content.""" |
|
wikicode = parser.parse(raw_content) |
|
|
|
|
|
re_rm_magic = re.compile("__[A-Z]*__", flags=re.UNICODE) |
|
|
|
|
|
media_prefixes = "|".join(["File", "Image", "Media"] + MEDIA_ALIASES.get(language, [])) |
|
re_rm_wikilink = re.compile(f"^(?:{media_prefixes}):", flags=re.IGNORECASE | re.UNICODE) |
|
|
|
def rm_wikilink(obj): |
|
return bool(re_rm_wikilink.match(str(obj.title))) |
|
|
|
|
|
def rm_tag(obj): |
|
return str(obj.tag) in {"ref", "table"} |
|
|
|
|
|
cat_prefixes = "|".join(["Category"] + CAT_ALIASES.get(language, [])) |
|
re_clean_wikilink = re.compile(f"^(?:{cat_prefixes}):", flags=re.IGNORECASE | re.UNICODE) |
|
|
|
def is_category(obj): |
|
return bool(re_clean_wikilink.match(str(obj.title))) |
|
|
|
def clean_wikilink(obj): |
|
text = obj.__strip__() |
|
text = re.sub(re_clean_wikilink, "", text) |
|
obj.text = text |
|
|
|
def try_replace_obj(obj): |
|
try: |
|
clean_wikilink(obj) |
|
except ValueError: |
|
|
|
pass |
|
|
|
def try_remove_obj(obj, section): |
|
try: |
|
section.remove(obj) |
|
except ValueError: |
|
|
|
pass |
|
|
|
section_text = [] |
|
|
|
for section in wikicode.get_sections(flat=True, include_lead=True, include_headings=True): |
|
for obj in section.ifilter_wikilinks(recursive=True): |
|
if rm_wikilink(obj): |
|
try_remove_obj(obj, section) |
|
elif is_category(obj): |
|
try_replace_obj(obj) |
|
for obj in section.ifilter_tags(matches=rm_tag, recursive=True): |
|
try_remove_obj(obj, section) |
|
|
|
section_text.append(re.sub(re_rm_magic, "", section.strip_code().strip())) |
|
return "\n\n".join(section_text) |
|
|
|
|
|
def _construct_url(title, language): |
|
|
|
return f"https://{language}.wikipedia.org/wiki/{quote(title)}" |
|
|
|
|
|
def _clean_content(inputs, language): |
|
"""Cleans raw wikicode to extract text.""" |
|
import mwparserfromhell |
|
|
|
id_, title, raw_content = inputs |
|
try: |
|
text = _parse_and_clean_wikicode(raw_content, parser=mwparserfromhell, language=language) |
|
except (mwparserfromhell.parser.ParserError) as e: |
|
logger.error("mwparserfromhell ParseError: %s", e) |
|
return |
|
|
|
if not text: |
|
return |
|
|
|
url = _construct_url(title, language) |
|
|
|
return {"id": id_, "url": url, "title": title, "text": text} |
