Datasets:

HuggingFaceFW

/

fineweb-edu

like 591

Follow

HuggingFaceFW 296

thanks for reporting, will take a look

@guipenedo Thank you for your quick reponse! For your convenience, here is the cmd I use for loading
python -c 'from datasets import load_dataset; load_dataset("HuggingFaceFW/fineweb-edu", name="default", split="train", trust_remote_code=True, num_proc=64)'

From a quick look I don't see anything wrong with the schema that could explain these errors. could you clear your cache and retry? (/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu)

@guipenedo yes, the cache has been cleared before running the cmd

One strange phenomenon is for some folder that reports errors, e.g., CC-MAIN-2024-51, the data can be properly loaded by loading this foler only
python -c 'from datasets import load_dataset; load_dataset("HuggingFaceFW/fineweb-edu", name="CC-MAIN-2024-51", split="train", trust_remote_code=True, num_proc=64)'.
I'm wondering does this error correspond to multiprocessing?

do the columns/fields of the data loaded per dump include "int_score", "score", etc or only the fields shown in the error message?

actually can you send a more complete error log? looking at the screenshot on the first message I don't see which field doesn't match

@guipenedo
FYI, the process crashed finally due to these errors

>>> load_dataset('HuggingFaceFW/fineweb-edu', name='default', split='train', num_proc=64)
Resolving data files: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 2080/2080 [00:00<00:00, 163135.35it/s]
Resolving data files: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 2080/2080 [00:00<00:00, 24487.96it/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:00<00:00, 38.87files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:00<00:00, 33.23files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 32.95files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 32.07files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 31.05files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 29.62files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 29.82files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 28.60files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 28.73files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 28.85files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 28.64files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 27.86files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 27.44files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 28.12files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 27.96files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 27.93files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 27.14files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 27.42files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 26.97files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 27.00files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 27.26files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 26.36files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 26.50files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 26.06files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 25.91files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 26.15files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 26.00files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 25.35files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 25.18files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 25.78files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 24.86files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 25.09files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 25.19files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 24.92files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 24.27files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 27.75files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 24.46files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 27.33files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 23.91files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 23.77files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 23.53files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 23.96files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 23.65files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 25.55files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 23.80files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 23.39files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 23.62files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:00<00:00, 34.36files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 23.27files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 24.42files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 24.00files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:00<00:00, 33.52files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 23.28files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 22.99files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 22.80files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 22.96files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:00<00:00, 35.76files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 22.84files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 32.42files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 22.21files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 32.29files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:01<00:00, 22.49files/s]
Downloading data: 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 33/33 [00:00<00:00, 46.68files/s]
Computing checksums: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 2080/2080 [00:09<00:00, 226.70it/s]
Generating train split:   0%|                                                                                                       | 1663000/1396828047 [00:07<1:35:44, 242881.92 examples/s]Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-18/000_00002.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Generating train split:   0%|▏                                                                                                      | 1711000/1396828047 [00:08<2:12:09, 175942.99 examples/s]Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-18/000_00034.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Generating train split:   0%|▏                                                                                                      | 1787000/1396828047 [00:08<1:50:24, 210595.67 examples/s]Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-22/000_00016.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-26/000_00030.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Generating train split:   0%|▏                                                                                                      | 1810000/1396828047 [00:08<1:50:21, 210681.57 examples/s]Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-22/000_00048.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Generating train split:   0%|▏                                                                                                      | 1877000/1396828047 [00:09<1:59:41, 194235.41 examples/s]Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-30/000_00044.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-30/000_00012.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Generating train split:   0%|▏                                                                                                      | 1898000/1396828047 [00:09<2:06:00, 184505.99 examples/s]Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-38/000_00008.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Generating train split:   0%|▏                                                                                                      | 1936000/1396828047 [00:09<2:13:49, 173716.89 examples/s]Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-33/000_00026.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Generating train split:   0%|▏                                                                                                      | 1959000/1396828047 [00:09<2:05:08, 185767.04 examples/s]Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-42/000_00022.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-38/000_00040.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Generating train split:   0%|▏                                                                                                       | 2595000/1396828047 [00:09<16:52, 1377511.36 examples/s]Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-46/000_00004.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Generating train split:   0%|▏                                                                                                       | 2790000/1396828047 [00:09<15:04, 1541859.98 examples/s]Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-46/000_00036.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match
Generating train split:   0%|▏                                                                                                       | 3114000/1396828047 [00:10<15:01, 1546471.95 examples/s]Failed to read file '/root/.cache/huggingface/hub/datasets--HuggingFaceFW--fineweb-edu/snapshots/3a9b4e715aeef97722594c13f68bd8582cac2583/data/CC-MAIN-2024-51/000_00018.parquet' with error <class 'datasets.table.CastError'>: Couldn't cast
text: string
id: string
dump: string
url: string
date: string
file_path: string
language: string
language_score: double
token_count: int64
score: double
int_score: int64
to
{'text': Value(dtype='string', id=None), 'id': Value(dtype='string', id=None), 'dump': Value(dtype='string', id=None), 'url': Value(dtype='string', id=None), 'file_path': Value(dtype='string', id=None), 'language': Value(dtype='string', id=None), 'language_score': Value(dtype='float64', id=None), 'token_count': Value(dtype='int64', id=None), 'score': Value(dtype='float64', id=None), 'int_score': Value(dtype='int64', id=None)}
because column names don't match

seems to be about the "date" field

Yes, it looks like the previous commit has been deleted? Just seeking to find one usable commit but failed.

You can use revision to load the previous version (they are in a separate branch). See the change log section of the readme

I opened https://huggingface.co/datasets/HuggingFaceFW/fineweb-edu/discussions/20 to fix missing "date", they will be marked as None for samples without "date".

Merged the PR above, can you check if the issue is fixed, @yzhangcs ?

@lhoestq @guipenedo Thanks for the quick fix! It works normally.
You guys are awesome 🕶️