Datasets:
Upload README.md with huggingface_hub
Browse files
README.md
ADDED
|
@@ -0,0 +1,51 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
license: cc-by-sa-4.0
|
| 3 |
+
language:
|
| 4 |
+
- ja
|
| 5 |
+
tags:
|
| 6 |
+
- images
|
| 7 |
+
---
|
| 8 |
+
|
| 9 |
+
# Dataset Card for Wikipedia-Vision-JA
|
| 10 |
+
|
| 11 |
+
## Dataset description
|
| 12 |
+
|
| 13 |
+
The **Wikipedia-Vision-JA** is a Vision Language Model dataset generated from Japanese Wikipedia, containing 140M pairs of images, captions, and descriptions.
|
| 14 |
+
|
| 15 |
+
This dataset itself does not contain raw image data. Instead, an `image_url` is provided for each item.
|
| 16 |
+
|
| 17 |
+
|
| 18 |
+
## Format
|
| 19 |
+
`Wikipedia-Vision-JA.jsonl` contains JSON-formatted rows with the following keys:
|
| 20 |
+
|
| 21 |
+
* `key`: Unique JSON ID
|
| 22 |
+
* `caption`: Short caption for the image
|
| 23 |
+
* `description`: Paragraph of the article nearest to the image
|
| 24 |
+
* `article_url`: URL of the article containing the image
|
| 25 |
+
* `image_url`: URL for the image
|
| 26 |
+
* `image_hash`: Hash value for `image_url`
|
| 27 |
+
|
| 28 |
+
### Sample
|
| 29 |
+
|
| 30 |
+
|
| 31 |
+
<img src="https://upload.wikimedia.org/wikipedia/commons/thumb/7/79/Alan_Turing_az_1930-as_%C3%A9vekben.jpg/400px-Alan_Turing_az_1930-as_%C3%A9vekben.jpg">
|
| 32 |
+
|
| 33 |
+
```json
|
| 34 |
+
{
|
| 35 |
+
"key": "000057870",
|
| 36 |
+
"caption": "アラン・チューリング",
|
| 37 |
+
"description": "アラン・マシスン・チューリング（Alan Mathison Turing、英語発音: [tjúǝrɪŋ]〔音写の一例：テュァリング〕, OBE, FRS 1912年6月23日 - 1954年6月7日）は、イギリスの数学者、暗号研究者、計算機科学者、哲学者である。日本語において姓 Turing はテューリングとも表記される。 電子計算機の黎明期の研究に従事し、計算機械チューリングマシンとして計算を定式化して、その知性や思考に繋がりうる能力と限界の問題を議論するなど情報処理の基礎的・原理的分野において大きな貢献をした。また、偏微分方程式におけるパターン形成の研究などでも先駆的な業績がある。 経歴・業績の基盤となる出発点は数学であったが、第二次世界大戦中に暗号解読業務に従事した。また黎明期の電子計算機の開発に携わった事でコンピューター・情報処理の基礎理論である計算可能性等に関する仕事をすることとなった。",
|
| 38 |
+
"article_url": "https://ja.wikipedia.org/wiki/アラン・チューリング",
|
| 39 |
+
"image_url": "https://upload.wikimedia.org/wikipedia/commons/thumb/7/79/Alan_Turing_az_1930-as_%C3%A9vekben.jpg/400px-Alan_Turing_az_1930-as_%C3%A9vekben.jpg",
|
| 40 |
+
"image_hash": "52fcf6db07"
|
| 41 |
+
}
|
| 42 |
+
```
|
| 43 |
+
|
| 44 |
+
|
| 45 |
+
## License
|
| 46 |
+
|
| 47 |
+
Inheriting Wikipedia's CC-BY-SA 4.0 License for articles, this dataset is distributed under the CC-BY-SA 4.0 License. Note that you may also need to adhere to each image's license when using raw image data, even though the URL is provided in this dataset.
|
| 48 |
+
|
| 49 |
+
## Acknowledgement
|
| 50 |
+
|
| 51 |
+
This dataset is based on results obtained from a project, JPNP20017, subsidized by the New Energy and Industrial Technology Development Organization (NEDO).
|