cc-audio-2025-18-rss

|🧑‍💻 Code  |

This dataset contains a list of audio URLs extracted from the Common Crawl snapshot 2025-18.

First, we extracted RSS feed XML content from the WARC files included in the snapshot, then extracted audio URLs from within the XML. We removed duplicates based on the audio URLs to ensure each entry is unique.

The dataset consists of the following columns:

• audio_url: The audio URL
• title: The title associated with the audio URL
• description: The description of the audio URL
• language: The language field from the XML page
• page_url: The URL of the XML page containing the audio URL

How to Use

from datasets import load_dataset

ds = load_dataset("llm-jp/cc-audio-2025-18-rss", split="train")
print(len(ds)) # 5060098

ja_items = ["ja", "ja_JP", "ja-jp", "ja-JP"]
# ja_language のみフィルタ
ds = ds.filter(lambda x: x["language"] in ja_items)
print(len(ds)) # 56728

print(ds[0])
# {'audio_url': 'http://www.nirasakith.kai.ed.jp/wp-content/uploads/2025/02/nirakoufmfuji0203.wav', 'title': 'FM FUJIにて放送された音源データを公開します！', 'description': 'FM FUJIより「情熱！ものづくりHIGH SCHOOL」で放送された音源データを公開します。   2月3日放送\u3000電子機械科   2月12日放送\u3000情報技術科   2月21日放送\u3000制御工学科', 'language': 'ja', 'page_url': 'https://www.nirasakith.kai.ed.jp/feed/?doing_wp_cron=1744904716.9947381019592285156250'}

Citation

@inproceedings{ccaudio2025,
  author    = {淺井 航平 and 杉浦 一瑳 and 中田 亘 and 栗田 修平 and 高道 慎之介 and 小川 哲司 and 東中 竜一郎},
  title     = {Common Crawlを用いた大規模音声音響データセットの構築},
  booktitle = {日本音響学会2025年秋季研究発表会},
  month     = {Sep.},
  year      = {2025}
}