metadata

task_categories:
  - text-generation

Google/Music-Capsの音声データをスペクトログラム化したデータ。

Music Cpasとは：https://huggingface.co/datasets/google/MusicCaps
GrayScaleじゃないほうもあるから見てね(⋈◍＞◡＜◍)。✧♡（これ）

基本情報

sampling_rate: int = 44100
20秒のwavファイル -> 1600×800のpngファイルへ変換
librosaの規格により、画像の縦軸：(0-10000?Hz), 画像の横軸：(0-40秒)

使い方

0: データセットをダウンロード

from datasets import load_dataset
data = load_dataset("mickylan2367/spectrogram")
data = data["train"]

1: データローダーへ

まだテストデータと検証データは用意していないので、コメントアウトしています
こんな感じの関数で、データローダーにできます。

from torchvision import transforms
from torch.utils.data import DataLoader

def load_datasets():
    data_transforms = [
      transforms.Resize((IMG_SIZE, IMG_SIZE)),
      transforms.ToTensor(), # Scales data into [0,1]
      transforms.Lambda(lambda t: (t * 2) - 1) # Scale between [-1, 1]
    ]
    data_transform = transforms.Compose(data_transforms)
    
    train = load_dataset("mickylan2367/spectrogram", split="train")
    # test = load_dataset("mickylan2367/spectrogram", split="test")
    # validation = load_dataset("mickylan2367/spectrogram", split="validation")
    
    for idx in range(len(train["image"])):
      train["image"][idx] = data_transform(train["image"][idx])
      # test["image"][idx] = data_transform(test["image"][idx])
      # validation["image"][idx] = data_transform(validation["image"][idx])
    
    train = Dataset.from_dict(train)
    # test = Dataset.from_dict(test)
    # validation = Dataset.from_dict(validation)
    
    train = train.with_format("torch") # リスト型回避
    # test = test.with_format("torch")
    # validation = validation.with_format(validation)
    
    torch.utils.data.ConcatDataset([train, test])

    return torch.utils.data.ConcatDataset([train, validation, test])

参考資料とメモ

(memo)ぶっちゃけグレースケールもカラーバージョンをtorchvision.transformのグレースケール変換すればいいだけかも？
ダウンロードに使ったコードはこちら
- 参考：https://www.kaggle.com/code/osanseviero/musiccaps-explorer
- 仕組み：Kaggleの参考コードでwavファイルをダウンロードする->スペクトログラムつくりながらmetadata.jsonlに
```
{"filename":"spectrogram_*.png", "caption":"This is beautiful music"}
```
  をなどと言ったjson列を書き込み、これをアップロードした
Huggingfaceのデータビューアが動かなくなったら、一度GoogleColabでそのデータセットをダウンロードしてみることもおすすめ意外とHuggingfaceがバグっているだけかも（実話(´;ω;｀)）