データロードをしようとするとエラーになる
書籍を読み進めている中で、下記のコードを実行しようとするとエラーが出ます。
恐らく preprocess_marc_ja.py のこちらの行からなんですが、どう対応するのがベストでしょうか？
https://huggingface.co/datasets/llm-book/JGLUE/blob/62b3730b6c0c1e4c648103723f8f7fb81ad4707f/preprocess_marc_ja.py#L221
実行しようとしたコード
from pprint import pprint
from datasets import load_dataset
# Hugging Face Hub上のllm-book/JGLUEのリポジトリから
# MARC-jaのデータを読み込む
train_dataset = load_dataset(
"llm-book/JGLUE",
name="MARC-ja",
split="train"
)
valid_dataset = load_dataset(
"llm-book/JGLUE", name="MARC-ja", split="validation"
)
# pprintで見やすく表示する
pprint(train_dataset[0])
エラー内容KeyError: "None of [Index(['review_body', 'star_rating', 'review_id'], dtype='object')] are in the [columns]"
一旦こちらのrepoを使って動きました： https://huggingface.co/datasets/shunk031/JGLUE
現在、MARC-ja の公開元、Amazonがデータセット公開を停止してしまっていて、それでエラーになっていますね…
参考：https://github.com/ghmagazine/llm-book/issues/11
お手数おかけします。
shunk031/JGLUE ではデータのキャッシュを返すような処理をしているようです。
我々の方でのAmazonデータの再頒布は控える方針ですので、そのような処理を実装する予定はありませんが、代わりの感情分析のデータセット読み込みスクリプトを公開していますので、ご活用ください。
https://huggingface.co/datasets/llm-book/wrime-sentiment
エラーメッセージもわかりやすい形に修正しておこうと思います。
ご報告ありがとうございました！
早速ご確認いただきありがとうございました。そういうことだったんですね。
スクリプトの方活用させていただきます、ありがとうございます！