Add `language_bcp47` tag (#4753)

* fix ms_terms

* fix ted_talks_iwslt

* move tags to language_bcp47

* fix bad codes

* add language_details and language_bcp47 in DatasetMetadata

* more fixes

* fix wiki_dpr

Commit from https://github.com/huggingface/datasets/commit/aa48a29d1304167dff37cef0ed7542f29376ee2d

README.md

@@ -4,241 +4,244 @@ annotations_creators:
 language_creators:
 - found
 language:
+- ace
 - af
+- als
 - am
 - an
+- ang
+- ar
+- arz
 - as
+- ast
 - av
 - ay
-- bs
-- ce
-- co
-- cv
-- dv
-- eo
-- gl
-- gn
-- gu
-- ha
-- hr
-- ht
-- ia
-- id
-- ie
-- ig
-- io
-- ja
-- jv
-- km
-- ko
-- ku
-- kv
-- ky
-- lb
-- lg
-- li
-- ln
-- lo
-- mg
-- mi
-- ml
-- mn
-- mr
-- ms
-- my
-- ne
-- om
-- or
-- os
-- pa
-- rm
-- rw
-- sc
-- sd
-- si
-- sk
-- sn
-- so
-- sr
-- su
-- sw
-- ta
-- th
-- tl
-- tn
-- to
-- ug
-- vi
-- vo
-- wa
-- wo
-- xh
-- yo
-- zh
-- ar
 - az
+- azb
 - ba
+- bar
+- bcl
 - be
 - bg
+- bho
+- bjn
 - bn
 - bo
+- bpy
 - br
+- bs
+- bxr
 - ca
+- cbk
+- cdo
+- ce
+- ceb
+- chr
+- ckb
+- co
+- crh
 - cs
+- csb
+- cv
 - cy
 - da
 - de
+- diq
+- dsb
+- dty
+- dv
+- egl
 - el
 - en
+- eo
 - es
 - et
 - eu
+- ext
 - fa
 - fi
 - fo
 - fr
+- frp
+- fur
 - fy
 - ga
+- gag
 - gd
+- gl
+- glk
+- gn
+- gu
 - gv
+- ha
+- hak
 - he
 - hi
+- hif
+- hr
+- hsb
+- ht
 - hu
 - hy
+- ia
+- id
+- ie
+- ig
+- ilo
+- io
 - is
 - it
-- ka
-- kk
-- kn
-- kw
-- la
-- lt
-- lv
-- mk
-- mt
-- nb
-- nl
-- nn
-- nv
-- oc
-- pl
-- ps
-- pt
-- qu
-- ro
-- ru
-- sa
-- sh
-- sl
-- sq
-- sv
-- te
-- tg
-- tk
-- tr
-- tt
-- uk
-- ur
-- uz
-- yi
-- ace
-- als
-- ang
-- arz
-- ast
-- azb
-- bar
-- bcl
-- bho
-- bjn
-- bpy
-- bxr
-- cbk
-- cdo
-- ceb
-- chr
-- ckb
-- crh
-- csb
-- diq
-- dsb
-- dty
-- egl
-- ext
-- frp
-- fur
-- gag
-- glk
-- hak
-- hif
-- hsb
-- ilo
+- ja
 - jam
 - jbo
+- jv
+- ka
 - kaa
 - kab
 - kbd
+- kk
+- km
+- kn
+- ko
 - koi
 - kok
 - krc
 - ksh
+- ku
+- kv
+- kw
+- ky
+- la
 - lad
+- lb
 - lez
+- lg
+- li
 - lij
 - lmo
+- ln
+- lo
 - lrc
+- lt
 - ltg
+- lv
 - lzh
 - mai
+- map
 - mdf
+- mg
 - mhr
+- mi
 - min
+- mk
+- ml
+- mn
+- mr
 - mrj
+- ms
+- mt
 - mwl
+- my
 - myv
 - mzn
 - nan
 - nap
+- nb
 - nci
 - nds
+- ne
 - new
+- nl
+- nn
 - nrm
 - nso
+- nv
+- oc
 - olo
+- om
+- or
+- os
+- pa
 - pag
 - pam
 - pap
 - pcd
 - pdc
 - pfl
+- pl
 - pnb
+- ps
+- pt
+- qu
+- rm
+- ro
+- roa
+- ru
 - rue
 - rup
+- rw
+- sa
 - sah
+- sc
 - scn
 - sco
+- sd
 - sgs
+- sh
+- si
+- sk
+- sl
 - sme
+- sn
+- so
+- sq
+- sr
 - srn
 - stq
+- su
+- sv
+- sw
 - szl
+- ta
 - tcy
+- te
 - tet
+- tg
+- th
+- tk
+- tl
+- tn
+- to
+- tr
+- tt
 - tyv
 - udm
+- ug
+- uk
+- ur
+- uz
 - vec
 - vep
+- vi
 - vls
+- vo
 - vro
+- wa
 - war
+- wo
 - wuu
+- xh
 - xmf
+- yi
+- yo
 - zea
-- other-roa-tara
-- other-zh-yue
-- other-map-bms
-- other-nds-nl
-- other-be-tarask
+- zh
+language_bcp47:
+- be-tarask
+- map-bms
+- nds-nl
+- roa-tara
+- zh-yue
 license:
 - odbl
 multilinguality: