Datasets:
Tasks:
Translation
Dataset Preview
Full Screen Viewer
Full Screen
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed
Error code: DatasetGenerationError
Exception: ParserError
Message: Error tokenizing data. C error: Expected 3 fields in line 10740, saw 4
Traceback: Traceback (most recent call last):
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1853, in _prepare_split_single
for _, table in generator:
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/packaged_modules/csv/csv.py", line 190, in _generate_tables
for batch_idx, df in enumerate(csv_file_reader):
File "/src/services/worker/.venv/lib/python3.9/site-packages/pandas/io/parsers/readers.py", line 1843, in __next__
return self.get_chunk()
File "/src/services/worker/.venv/lib/python3.9/site-packages/pandas/io/parsers/readers.py", line 1985, in get_chunk
return self.read(nrows=size)
File "/src/services/worker/.venv/lib/python3.9/site-packages/pandas/io/parsers/readers.py", line 1923, in read
) = self._engine.read( # type: ignore[attr-defined]
File "/src/services/worker/.venv/lib/python3.9/site-packages/pandas/io/parsers/c_parser_wrapper.py", line 234, in read
chunks = self._reader.read_low_memory(nrows)
File "parsers.pyx", line 850, in pandas._libs.parsers.TextReader.read_low_memory
File "parsers.pyx", line 905, in pandas._libs.parsers.TextReader._read_rows
File "parsers.pyx", line 874, in pandas._libs.parsers.TextReader._tokenize_rows
File "parsers.pyx", line 891, in pandas._libs.parsers.TextReader._check_tokenize_status
File "parsers.pyx", line 2061, in pandas._libs.parsers.raise_parser_error
pandas.errors.ParserError: Error tokenizing data. C error: Expected 3 fields in line 10740, saw 4
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1392, in compute_config_parquet_and_info_response
parquet_operations = convert_to_parquet(builder)
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1041, in convert_to_parquet
builder.download_and_prepare(
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 924, in download_and_prepare
self._download_and_prepare(
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 999, in _download_and_prepare
self._prepare_split(split_generator, **prepare_split_kwargs)
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1740, in _prepare_split
for job_id, done, content in self._prepare_split_single(
File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1896, in _prepare_split_single
raise DatasetGenerationError("An error occurred while generating the dataset") from e
datasets.exceptions.DatasetGenerationError: An error occurred while generating the datasetNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
12228
int64 | <---------
string | <---------.1
string |
|---|---|---|
11,933 | ¯\\_(ツ)_/¯ | ¯\\_(ツ)_/¯ |
8,634 | ¯\\\\\\_(ツ)_/¯ | ¯\\\\\\_(ツ)_/¯ |
12,606 | ¯\\\\\\_(ツ)\\_/¯ | ¯ \\\\\\ _ (ツ) \\ _ / ¯ |
7,965 | ¯\\\\\\_(ツ)\\_/¯ | ¯\\\\\\_(ツ)\\_/¯ |
6,201 | -.- / -.-- --- ..- | -.- / -.-- --- ..- |
1,578 | ;) | ;) |
2,482 | :-) | :-) |
9,802 | :/ | : / |
5,947 | :/ | :/ |
1,425 | :’) | :') |
2,867 | :( | :( |
246 | :) | :) |
795 | !” | » |
291 | !🤣 | 🤣 |
77 | ! | ! |
13,781 | ??? | ??? |
6,072 | ?😋 | 😋 |
877 | ? | ? |
1,518 | . | . |
2,729 | * *
4138 (: (:
1587 (?) (?)
1692 ): :
8890 )... ...
163 ). ).
3696 [?] [?]
840 @ @
3301 * 😂 * 😂
11376 *- *-
11860 *** ***
3290 ** **
616 * *
13254 👌? 👌?
7567 ༽つ** ༽つ**
7095 😔🤦🏾♂️ 😔🤦🏾♂️
8196 🤷🏼♀️ ️ ️♀️
4895 🤷♀️ 🤷♀️
13051 😂😂 » 😂😂
925 😅😂 😅😂
3654 ♥♥ ♥♥
5717 😒 » 😒
134 😂 😂
205 0. 0.
12174 0-100 r/SuddenlyIASIP 0-100 r/SuddenlyIASIP
8849 0/10 don’t post again. 0/10 à ne plus publier.
10224 03/23/18 GTA Online Ban Wave: What we know so far: did you were unbanned after reban ? 23/03/18 GTA Online vague de ban : Ce que nous savons jusqu'à présent : avez-vous été réhabilité après avoir été re-ban ?
1821 03/23/18 GTA Online Ban Wave: What we know so far: Yeah well I got re-banned while reinstalling GTA V LOL 23/03/2018 Vague de bans dans GTA Online : ce qu'on en sait pour le moment : Ouais ben j'ai été re-ban pendant que je réinstallais GTA V LOL
10481 03/27/2018 - Late Notes Living World—Seat of Power She's more lying face-first in Tyria, but yeah. 03/27/2018 - Dernières Notes Living World—Siège de Pouvoir Elle est un menteuse compulsive. Première face à Tyria, mais sii.
8852 0331? 0331?
8852 0331. 0331.
1401 03 neon been to hell and back nothing it can’t take. “Bumper stickers are a good shortcut to say, ‘hey, let’s never hang out.’”-Demetri Martin Néon 03 Vécu l'enfer et en est sorti Il y a rien qu'il ne peut supporter. Bumper stickers sont un excellent raccourci pour dire, "hé, ne traînons jamais ensemble." - Demetri Martin | null |
1,464 | 05 was a particular standout from that group. | 05 est particulièrement sorti du lot. |
1,321 | 0.97.2 still has the bug crash I'm also seeing more mid game crashes. | 0.97.2 a toujours le bug crash, je vois aussi plus de crashs en milieu de partie. |
12,007 | 09' Ford Fusion if that makes a difference. | Ford Fusion 2009 si ça fait une différence. |
3,472 | 0: I thought for sure there must have been a secret but I respect your minnow collection even more now. | 0: J'étais convaincu qu'il devait y avoir un secret mais je respecte d'autant plus ta collection de minnow maintenant. |
13,672 | 0L Tuesday Thread - - March 27, 2018 Best crim law supplement? | 0L Fil du mardi - - 27 mars 2018 Meilleur supplément de Crim Law ? |
13,483 | 0L Tuesday Thread - - March 27, 2018 If you are median or bottom half of the rankings, T14 prestige is definitely what pulls most people over the finish line to get a firm job (honk about it, Columbia pumps out over 80% into biglaw). | Discussion du mardi - - 27 mars 2018 Si vous vous situez à la moitié ou la moitié inférieure du classement, le prestige T14 est certainement ce qui attire la plupart des gens sur la ligne d'arrivée en vue d'obtenir un emploi ferme (vous avez raison de cacarder à ce sujet, Columbia pompe plus de 80 % dans les grands cabinets d'avocats). |
7,604 | 0.o | 0.o |
3,510 | 0*UW Nyx comp is - Scarlet T1 0*UW, Nyx T5, Mediana T5 0*UW, Phillop T3 0*UW. | 0*UW Nyx comp, c’est - Scarlet T1 0*UW, Nyx T5, Mediana T5 0*UW, Phillop T3 0*UW. |
4,195 | 0*UW Nyx comp is - Scarlet T1 0*UW, Nyx T5, Mediana T5 0*UW, Phillop T3 0*UW. | 0 * UW Nyx comp est - Scarlet T1 0 * UW, Nyx T5, Mediana T5 0 * UW, Phillop T3 0 * UW. |
10,069 | 0*UW Nyx comp is - Scarlet T1 0*UW, Nyx T5, Mediana T5 0*UW, Phillop T3 0*UW. | 0*UW Nyx comp est - Scarlet T1 0*UW, Nyx T5, Mediana T5 0*UW, Phillop T3 0*UW. |
13,771 | $100,000/yr qualifies you for approximately $450,000 at the most using mortgage calculators. | 100000 $/an vous qualifie pour environ 450 000 $ au plus en utilisant des calculatrices hypothécaires. |
13,281 | $10,000 a week for H??? | 10 000 $ par semaine pour H ??? |
4,611 | 100/100 | Note: 100/100 |
4,802 | 100/10 for the tail | 100/10 pour la queue |
7,015 | 100 buckaroonies it’s mint in Japanese | 100 balles que c'est de la menthe en japonais |
342 | 100 days to go for Ant-Man and the Wasp And Spider-Man. | Plus que 100 jours avant Ant-Man et la Guêpe Et Spider-Man. |
4,936 | 100 days to go for Ant-Man and the Wasp He didn’t mess up. He can’t be on the run, doing secret Avengers shit. He has a life and a daughter to see. He chose the punishment for his actions in Civil War because it meant still seeing his daughter. | 100 days to go for Ant-Man and the Wasp Il ne s'est pas loupé. Il ne peut pas être en fuite, faisant de la merde secrète d'Avengers. Il a une vie et une fille à voir.Il a choisi la punition pour ses actions lors de la Guerre Civile car celle-ci lui permettra de voir sa fille. |
5,267 | 100 days to go for Ant-Man and the Wasp "I don't care" T'challa, not me | 100 jours pour L'homme fourmi\\n et la Guêpe "je m'en fous" T'challa, pas moi |
7,462 | 100 Forma Zephyr/Tiberon Prime That riven is making me very excited now, oohhh, the anticipation.. | 100 Forma Zephyr/Tiberon Prime Ce riven m'excite vraiment, maintenant. Oohhh, l'anticipation... |
11,336 | 100 fps+ | 100 fps+ |
3,546 | 100G of beef vs. 100G of beans /r/veganforwardsfromgrandma | 100 g de bœuf contre 100 g de haricots /r/veganforwardsfromgrandma |
2,045 | 100% their own music, no talking on the mic, no countdown to the drop bull crap, just straight up awesome house music. | 100% leur propre musique, pas de discussion sur le micro, pas de compte à rebours à la merde, juste de la musique house impressionnante. |
531 | 10. | 10. |
941 | 10/10 a good boy! | un bon gaçon à 10/10! |
314 | 10/10, makes me want to watch Alex rage again. | 10/10, ça me donne envie de revoir Alex rage. |
11,843 | 10/10 trash prediction | Probabilité de rencontre merdique : 10/10. |
4,367 | 101 hours and 32 minutes of Fallout: New Vegas Arrgh that is true when I started modding Skyrim. | 101 heures et 32 minutes de Fallout: le nouveau Vegas Argh c'est vrai quand j'ai commencé à modifier Skyrim. |
1,236 | 10+1 Ticket Results - Megathread I scored a dupe Reberta & my first Loren - pulling Loren after having finished a spare Black Cowl makes me think the game is telling me to use Oldmandeau again. | 10+1 Ticket Résultats de Ticket - Megathread J'ai marqué un dupe Reberta & ma première Loren - tirer Loren après avoir terminé un Black Cowl de rechange me fait penser que le jeu me dit d'utiliser Oldmandeau à nouveau. |
11,204 | = 10,395 | = 10 395 |
9,959 | = 10,395 | = 10,395 |
13,542 | 1099-K is what merchant account providers sent to the IRS. | 1099-K est ce que les fournisseurs de comptes marchands ont envoyé à l'IRS. |
4,948 | 10 days! | 10 jours! |
9,278 | 10 for all of the games except 4U. | 10 pour tous les jeux sauf 4U. |
4,979 | 10 hours not eating again | 10 heures et ne mange pas encore de nouveau |
5,140 | 10 inch complete upper Just bought an m4e1 lower from gundeals(RIP.) | 10 pouces complet supérieur Je viens d'acheter un m4e1 inférieur de gundeals(RIP.) |
6,338 | $10 in raffle tickets and I won this arrangement. | 10$ dans des tickets de loterie et j'ai gagné ce lot. |
6,334 | [@10JoseAlvarez] A move to Utd will only be possible when Fred agrees to it. | [@10JoseAlvarez] Le transfert vers Manchester United ne sera rendu possible que lorsque Fred aura donné son accord. |
7,807 | [@10JoseAlvarez] Pep can never have enough Centerback-Backups | [@10JoseAlvarez] Pep a toujours besoin de pivots/arrière remplaçants |
11,790 | 10. | La W-Y, souhaitant s'emparer de la technologie des aliens et probablement aussi des xénomorphes, redirige le Nostromo vers LV-426 dans le cadre d'une fausse mission de sauvetage. |
11,064 | (10min minimum) Fetish friendly!! | (10min minimum) Fétiche amical !! |
2,220 | (10min minimum) Fetish friendly!! | (10min minimum) Les Fétiches sont acceptés !! |
6,010 | 10 minutes of Away: Journey to the Unexpected footage Played at PAX West and chatted with the French developer of it for an hour or so, really nice dude. Didn’t realize how cute French people sounded when they speak English! He kept apologizing for his English and I thought it was so adorable. Im definitely picking this up for my Switch, if not for the cool gameplay then for the adorable French man who was sweet and charming. Can’t wait to take my girlfriend to PAX this year! | 10 minutes de gameplay "Away: Journey to the Unexpected". \\nJ'ai joué à PAX West et ai discuté avec leur développeur français pendant à peu près une heure, hyper sympa comme mec. Je m'était jamais rendu compte à quel point c'est mignon d'entendre un français parler anglais! Il passait son temps à s'excuser pour son mauvais anglais et c'était chou comme tout. Je vais définitivement me le prendre pour ma Switch, non seulement pour le gameplay amusant, mais aussi pour l'adorable français qui était mignon et charmant. J'ai vraiment hâte d'amener ma petite amie à PAX cette année! |
7,642 | 10% OFF PSN $20 at PCGamesupply It wasn’t you it was the site. | 10% SUR PSN $20 chez PCGamesupply Ce n'était pas vous, c'était le site. |
2,205 | 10% of the applicants, while affirmative action ends up affecting everyone. | 10% des candidats, tandis que la discrimination positive finit par toucher tout le monde. |
12,581 | 10 Songs You've Heard and Don't Know the Name I HAD A GT-R CARD THIS WHOLE TIME | 10 chansons que vous avez entendu et dont vous ne connaissez pas le nom J'AVAIS UNE CARTE GT-R PENDANT TOUT CE TEMPS |
5,277 | 10th Platinum and 1300th medal. | 10ème médaille de platine et 1300ème médaille. |
205 | 1. | 1. |
4,696 | 1/10 for constructed. | 1/10 pour la construction. |
9,959 | 11!! | 11!! |
9,959 | 11! | 11! |
531 | 11. | 11. |
1,231 | 1 1/2 teaspoons garlic powder. | 1 1/2 c. à thé de poudre d'ail. |
1,231 | 1 1/2 teaspoons ground cumin. | 1 1/2 cuillère à café de cumin moulu. |
1,231 | 1 1/2 teaspoons onion powder. | 1 1/2 c. à thé de poudre d'oignon. |
5,483 | 113 days ago, a Texas congressman promised to pay back taxpayers $84,000 over sexual harassment That guy is outrageous Can’t believe this could happen, he oughta go to jail yesterday | Il y a 113 jours, un Texan, membre du Congrès des États-Unis a promis de rembourser 84 000 $ aux contribuables pour harcèlement sexuel. C'est scandaleux. Je ne peux pas croire que cela puisse arriver, il devrait déjà être en prison. |
10,891 | 11.3 is out! | 11.3 est sorti ! |
243 | 11.50/hr (22,080/yr). | 11,50 / hr (22 080 / an). |
11,632 | 116d 7h 50m 2s of dota games. | 116j 7j 50m 2s de matchs de dota. |
6,244 | (1,199 day) 🦄 & yes I accidentally tracked it as tomorrow 🤷♀️ Now go lick an almond for that extra calorie 😂 | (1,199 jour) 🦄 & oui je l'ai accidentellement suivi comme demain 🤷♀️ Maintenant je vais lécher une amande pour cette calorie supplémentaire 😂 |
11,790 | 11. | La W-Y ordonne la colonisation de LV-426 mais, quelques années plus tard, les colons sont attaqués et ils sont quasiment tous transformés en organismes porteurs de xénomorphes. |
3,911 | 11th species overall. I believe it is a Logperch (Percina caprodes). sweet man. logperch is a dream catch for me | Le 11ème des espèces en general. Je crois que c'est un Fouille-roche (Percina caprodes) |
11,790 | 11. | Tous les soldats meurent, tandis qu'au moins 2 facehuggers s'échappent dans une capsule en compagnie de Ripley et finissent par se poser sur Fiorina « Furie » 161, une planète pénitentiaire. |
8,138 | 11 years everyone, just 11. | 11 ans tout le monde, seulement 11. |
3,812 | 11 years later, human colony ship changes course due to onboard disaster and accidentally discovers the Engineer home planet. | 11 ans plus tard, le navire de la colonie humaine change de cap en raison d'un désastre à bord et découvre accidentellement la planète des ingénieurs. |
531 | 11 years later, human colony ship changes course due to onboard disaster and accidentally discovers the Engineer home planet. | 11 ans plus tard, un navire de colonie humaine change de cap en raison d'un désastre à bord et découvre accidentellement la planète maison des Ingénieurs. |
11,790 | 11 years later, human colony ship changes course due to onboard disaster and accidentally discovers the Engineer home planet. | Ils y découvrent David Prime, l'androïde de l'équipage du Prometheus, qui a survécu et a tenté de créer des xénomorphes supérieurs avec le corps de Shaw et à l'aide des notes dispersées des ingénieurs. |
531 | 12. | 12. |
11,394 | 12-4. | 12-4. |
12,943 | 12-6 (or sinker, idk yet) - something change of pace and down. | 12-6 (ou balle plongeante, je ne sais pas encore) - quelque chose comme le changement d'allure et vers le bas. |
5,643 | 12-6 (or sinker, idk yet) - something change of pace and down. | 12-6 (ou le sinker, je ne sais pas encore) - quelque chose change de rythme et baisse. |
58 | 12 hrs later, i'm getting the same print issues I had before. | 12h plus tard, j'ai les memes problemes qu'avec l'embout précédent. |
11,790 | 12. | La United Systems Military clone Ripley afin de récupérer l'ADN de la reine xénomorphe et l'opération s'avère être un succès. |
11,790 | 12. | Les échecs répétés des tentatives de s'emparer à la fois de la technologie des aliens mais aussi des xénomorphes font que, durant les 90 années suivantes, la Weyland-Yutani est incapable de maintenir sa position et, dès lors qu'elle perd un énorme contrat dans le domaine des voyages supraluminiques, cela entraîne sa chute. |
892 | 12% of all matches are played with cheats. | 12% de tous les matchs sont joués avec de la triche. |
7,420 | 12% of all matches are played with cheats. Check out your last matches in cheat detector by gosu.ai its ok chests and dotaplus selling nicely | 12 % de tous les matches sont joués avec des codes de triche. Fais passer tes derniers matches au détecteur de triche sur gosu.ai. C'est bon, les coffres et les dotaplus se vendent bien. |
2,329 | (12 or 12.5) Lol. | (12 ou 12.5) Mdr. |
8,519 | 12 pt top 8s, 21 gp top 8s. | 12 points dans les 8 premiers, 21 gp dans les 8 premiers. |
6,745 | 13-105 | 13-105 |
7,783 | 13-14 seems to be the going rate | le taux semble être 13-14 |
10,319 | 1340s. | Les années 1340. |
End of preview.
Dataset origin: https://github.com/pmichel31415/mtnt
MTNT
MTNT is a collection of comments from the Reddit discussion website in English, French and Japanese, translated to and from English. The particularity of this dataset is that the data consists of "noisy" text, that exhibits typos, grammar errors, code switching and more. For more details, check out the paper.
Data
This folder should have the following structure:
MTNT
├ monolingual
│ ├ dev.en
│ ├ dev.fr
│ ├ dev.ja
│ ├ dev.tok.en
│ ├ dev.tok.fr
│ ├ dev.tok.ja
│ ├ train.en
│ ├ train.fr
│ ├ train.ja
│ ├ train.tok.en
│ ├ train.tok.fr
│ └ train.tok.ja
├ test
│ ├ test.en-fr.tsv
│ ├ test.en-ja.tsv
│ ├ test.fr-en.tsv
│ └ test.ja-en.tsv
├ train
│ ├ train.en-fr.tsv
│ ├ train.en-ja.tsv
│ ├ train.fr-en.tsv
│ └ train.ja-en.tsv
└ valid
├ valid.en-fr.tsv
├ valid.en-ja.tsv
├ valid.fr-en.tsv
└ valid.ja-en.tsv
The monolingual data is distributed with and without tokenization, in raw text format. The parallel data is split into training, validation and test set. Each tsv file contains 3 columns:
- Comment ID
- Source sentence
- Target sentence
Some source sentences are from a same original comment, and you can use the comment ID to group them together and leverage the contextual information.
If you're only interested in the source and target sentence, you can run the split_tsv.sh script to split the files into source and target files.
Code
The code to reproduce the collection process and the Machine Translation experiments is available on github.
Citing
If you use this dataset or the associated code, please cite:
@InProceedings{michel2018mtnt,
author = {Michel, Paul and Neubig, Graham},
title = {MTNT: A Testbed for Machine Translation of Noisy Text},
booktitle = {Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing}
}
Contact
If you have any issue with the data, please contact pmichel1[at]cs.cmu.edu. For any question regarding the code, please open an issue on Github.
License
This data is released under the terms of the Reddit API.
- Downloads last month
- 32