--- task_categories: - text-generation license: cc-by-sa-4.0 language: - en tags: - music --- # Google/Music-Capsの音声データをスペクトログラム化したデータ。 * Music Cpasとは:https://huggingface.co/datasets/google/MusicCaps * GrayScaleじゃないほうもあるから見てね(⋈◍>◡<◍)。✧♡(これ) ## 基本情報 * sampling_rate: int = 44100 * 20秒のwavファイル -> 1600×800のpngファイルへ変換 * librosaの規格により、画像の縦軸:(0-10000?Hz), 画像の横軸:(0-40秒) ## 使い方 ### 0: データセットをダウンロード ```py from datasets import load_dataset data = load_dataset("mickylan2367/spectrogram") data = data["train"] ``` ### 1: データローダーへ * まだテストデータと検証データは用意していないので、コメントアウトしています * こんな感じの関数で、データローダーにできます。 ```py from torchvision import transforms from torch.utils.data import DataLoader BATCH_SIZE = ??? # 自分で設定 IMAGE_SIZE = ??? def load_datasets(): data_transforms = [ transforms.Resize((IMG_SIZE, IMG_SIZE)), transforms.ToTensor(), # Scales data into [0,1] transforms.Lambda(lambda t: (t * 2) - 1) # Scale between [-1, 1] ] data_transform = transforms.Compose(data_transforms) train = load_dataset("mickylan2367/spectrogram", split="train") # test = load_dataset("mickylan2367/spectrogram", split="test") # validation = load_dataset("mickylan2367/spectrogram", split="validation") for idx in range(len(train["image"])): train["image"][idx] = data_transform(train["image"][idx]) # test["image"][idx] = data_transform(test["image"][idx]) # validation["image"][idx] = data_transform(validation["image"][idx]) train = Dataset.from_dict(train) # test = Dataset.from_dict(test) # validation = Dataset.from_dict(validation) train = train.with_format("torch") # リスト型回避 # test = test.with_format("torch") # validation = validation.with_format(validation) # dataset = torch.utils.data.ConcatDataset([train, validation, test]) # dataloader = DataLoader(dataset, batch_size=BATCH_SIZE, shuffle=True, drop_last=True) # return dataloader ``` ## 参考資料とメモ * (memo)ぶっちゃけグレースケールもカラーバージョンをtorchvision.transformのグレースケール変換すればいいだけかも? * ダウンロードに使ったコードはこちら * 参考:https://www.kaggle.com/code/osanseviero/musiccaps-explorer * 仕組み:Kaggleの参考コードでwavファイルをダウンロードする->スペクトログラムつくりながらmetadata.jsonlに ``` {"filename":"spectrogram_*.png", "caption":"This is beautiful music"} ``` をなどと言ったjson列を書き込み、これをアップロードした * Huggingfaceのデータビューアが動かなくなったら、一度GoogleColabでそのデータセットをダウンロードしてみることもおすすめ 意外とHuggingfaceがバグっているだけかも(実話(´;ω;`))