Fix type in readme
Browse files
README.md
CHANGED
@@ -61,7 +61,7 @@ tokens = tokenizer.tokenize(text)
|
|
61 |
print(tokens) # output: ['[CLS]', '▁4', '年に', '1', '度', 'オリンピック', 'は', '開かれる', '。']
|
62 |
|
63 |
# mask a token
|
64 |
-
masked_idx =
|
65 |
tokens[masked_idx] = tokenizer.mask_token
|
66 |
print(tokens) # output: ['[CLS]', '▁4', '年に', '1', '度', '[MASK]', 'は', '開かれる', '。']
|
67 |
|
|
|
61 |
print(tokens) # output: ['[CLS]', '▁4', '年に', '1', '度', 'オリンピック', 'は', '開かれる', '。']
|
62 |
|
63 |
# mask a token
|
64 |
+
masked_idx = 5
|
65 |
tokens[masked_idx] = tokenizer.mask_token
|
66 |
print(tokens) # output: ['[CLS]', '▁4', '年に', '1', '度', '[MASK]', 'は', '開かれる', '。']
|
67 |
|