kobkrit commited on
Commit
023cbe7
1 Parent(s): 7170c2b

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +90 -87
README.md CHANGED
@@ -1,87 +1,90 @@
1
- ---
2
- license: apache-2.0
3
- task_categories:
4
- - question-answering
5
- language:
6
- - th
7
- - en
8
- tags:
9
- - art
10
- pretty_name: Lexitron 2.0 Prompt Finetuning Dataset
11
- size_categories:
12
- - 100K<n<1M
13
- maintainer: Kobkrit Viriyayudhakorn ([email protected])
14
- ---
15
- # Lexitron 2.0 Prompt Finetuning Dataset
16
-
17
- This dataset is derived from Lexitron 2.0, a Thai-English dictionary developed by NECTEC. It has been processed and formatted for prompt finetuning tasks. The original dataset is from: https://opend-portal.nectec.or.th/dataset/lexitron-2-0
18
-
19
- ## Dataset Description
20
-
21
- The dataset consists of two main files:
22
-
23
- 1. `lexitron2_telex_finetune.qwen2.txt` - Thai to English lexicon entries in Qwen2 conversation format
24
- 2. `lexitron2_telex_finetune.jsonl` - Thai to English lexicon entries in JSONL format
25
-
26
- Each file contains dictionary entries formatted in their respective formats.
27
-
28
- ## Syntax and Example Dataset
29
-
30
- ### Syntax
31
-
32
- The dataset files follow specific formats for ease of use in prompt finetuning tasks.
33
-
34
- #### `lexitron2_telex_finetune.jsonl`
35
-
36
- Each entry in this file follows the generic prompt format:
37
-
38
- ```json
39
- {
40
- "instruction": "<instruction in English or Thai>",
41
- "output": "<translation or definition in Thai>"
42
- }
43
- ```
44
-
45
- - **instruction**: A string that provides the translation task or query. It can be in English or Thai.
46
- - **output**: A string that provides the translation or definition in Thai.
47
-
48
- #### `lexitron2_telex_finetune.qwen2.txt`
49
-
50
- Each entry in this file follows the Qwen2 conversation format:
51
-
52
- ```text
53
- <|im_start|>system\n
54
- คุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์<|im_end|>\n
55
- <|im_start|>user\n
56
- คำว่า 'example_word' แปลว่าอะไร<|im_end|>\n
57
- <|im_start|>assistant\n
58
- คำว่า 'example_word' เป็นคำประเภท Noun (คำนาม) แปลเป็นภาษาอังกฤษว่า example\n
59
- ความหมาย: ตัวอย่างความหมาย\n
60
- ตัวอย่างประโยค: ตัวอย่างการใช้ในประโยค<|im_end|>
61
- ```
62
-
63
- The Qwen2 format consists of three main components:
64
- - **system**: Defines the AI assistant's role and characteristics
65
- - **user**: Contains the translation query or question (in Thai or English)
66
- - **assistant**: Provides the structured response including:
67
- - Word type/category
68
- - English translation
69
- - Definition
70
- - Example sentences (when available)
71
- - Synonyms (when available)
72
- - Antonyms (when available)
73
- - Related words (when available)
74
- - Classifiers (when available)
75
-
76
- ## Example Dataset
77
-
78
- Here is an example of how the dataset is structured:
79
- ```json
80
- {"instruction": "Please translate 'a' into Thai", "output": "คำว่า 'a' เป็นคำประเภท Determiner แปลเป็นภาษาไทยว่า 'หนึ่ง (คำนำหน้าคำนามเพื่อแสดงว่าคำนามนั้นๆ ไม่ชี้เฉพาะ)'"}
81
- ```
82
-
83
- ```text
84
- <|im_start|>system\nคุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์<|im_end|>\n<|im_start|>user\nคำว่า 'ดังกล่าวข้างต้น' สามารถใช้ในประโยคอย่างไรได้บ้าง<|im_end|>\n<|im_start|>assistant\nคำว่า 'ดังกล่าวข้างต้น' เป็นคำประเภท Pronoun (คำสรรพนาม) แปลเป็นภาษาอังกฤษว่า abovementioned\nคำที่มีความหมายเหมือนกัน: ดังกล่าว\nตัวอย่างประโยค: หน่วยงานของเราสามารถรับบทบาทได้เป็นอย่างดี ตามสภาพความพร้อมด้านต่างๆ ดังกล่าวข้างต้น<|im_end|>
85
- ```
86
-
87
-
 
 
 
 
1
+ ---
2
+ license: apache-2.0
3
+ task_categories:
4
+ - question-answering
5
+ language:
6
+ - th
7
+ - en
8
+ tags:
9
+ - art
10
+ pretty_name: Lexitron 2.0 Prompt Finetuning Dataset
11
+ size_categories:
12
+ - 100K<n<1M
13
+ maintainer: Kobkrit Viriyayudhakorn ([email protected])
14
+ ---
15
+ # Lexitron 2.0 Prompt Finetuning Dataset
16
+
17
+ This dataset is derived from Lexitron 2.0, a Thai-English dictionary developed by NECTEC. It has been processed and formatted for prompt finetuning tasks. The original dataset is from: https://opend-portal.nectec.or.th/dataset/lexitron-2-0
18
+
19
+ ## Maintainer
20
+ Kobkrit Viriyayudhakorn ([email protected])
21
+
22
+ ## Dataset Description
23
+
24
+ The dataset consists of two main files:
25
+
26
+ 1. `lexitron2_telex_finetune.qwen2.txt` - Thai to English lexicon entries in Qwen2 conversation format
27
+ 2. `lexitron2_telex_finetune.jsonl` - Thai to English lexicon entries in JSONL format
28
+
29
+ Each file contains dictionary entries formatted in their respective formats.
30
+
31
+ ## Syntax and Example Dataset
32
+
33
+ ### Syntax
34
+
35
+ The dataset files follow specific formats for ease of use in prompt finetuning tasks.
36
+
37
+ #### `lexitron2_telex_finetune.jsonl`
38
+
39
+ Each entry in this file follows the generic prompt format:
40
+
41
+ ```json
42
+ {
43
+ "instruction": "<instruction in English or Thai>",
44
+ "output": "<translation or definition in Thai>"
45
+ }
46
+ ```
47
+
48
+ - **instruction**: A string that provides the translation task or query. It can be in English or Thai.
49
+ - **output**: A string that provides the translation or definition in Thai.
50
+
51
+ #### `lexitron2_telex_finetune.qwen2.txt`
52
+
53
+ Each entry in this file follows the Qwen2 conversation format:
54
+
55
+ ```text
56
+ <|im_start|>system\n
57
+ คุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์<|im_end|>\n
58
+ <|im_start|>user\n
59
+ คำว่า 'example_word' แปลว่าอะไร<|im_end|>\n
60
+ <|im_start|>assistant\n
61
+ คำว่า 'example_word' เป็นคำประเภท Noun (คำนาม) แปลเป็นภาษาอังกฤษว่า example\n
62
+ ความหมาย: ตัวอย่างความหมาย\n
63
+ ตัวอย่างประโยค: ตัวอย่างการใช้ในประโยค<|im_end|>
64
+ ```
65
+
66
+ The Qwen2 format consists of three main components:
67
+ - **system**: Defines the AI assistant's role and characteristics
68
+ - **user**: Contains the translation query or question (in Thai or English)
69
+ - **assistant**: Provides the structured response including:
70
+ - Word type/category
71
+ - English translation
72
+ - Definition
73
+ - Example sentences (when available)
74
+ - Synonyms (when available)
75
+ - Antonyms (when available)
76
+ - Related words (when available)
77
+ - Classifiers (when available)
78
+
79
+ ## Example Dataset
80
+
81
+ Here is an example of how the dataset is structured:
82
+ ```json
83
+ {"instruction": "Please translate 'a' into Thai", "output": "คำว่า 'a' เป็นคำประเภท Determiner แปลเป็นภาษาไทยว่า 'หนึ่ง (คำนำหน้าคำนามเพื่อแสดงว่าคำนามนั้นๆ ไม่ชี้เฉพาะ)'"}
84
+ ```
85
+
86
+ ```text
87
+ <|im_start|>system\nคุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์<|im_end|>\n<|im_start|>user\nคำว่า 'ดังกล่าวข้างต้น' สามารถใช้ในประโยคอย่างไรได้บ้าง<|im_end|>\n<|im_start|>assistant\nคำว่า 'ดังกล่าวข้างต้น' เป็นคำประเภท Pronoun (คำสรรพนาม) แปลเป็นภาษาอังกฤษว่า abovementioned\nคำที่มีความหมายเหมือนกัน: ดังกล่าว\nตัวอย่างประโยค: หน่วยงานของเราสามารถรับบทบาทได้เป็นอย่างดี ตามสภาพความพร้อมด้านต่างๆ ดังกล่าวข้างต้น<|im_end|>
88
+ ```
89
+
90
+