File size: 5,744 Bytes
ed5837d |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 |
import csv
import random
import json
def create_training_data():
training_data = []
# Read CSV file
with open('etlex-utf8.csv', 'r', encoding='utf-8') as f:
reader = csv.reader(f)
word_data = list(reader)
for row in word_data:
if len(row) < 7: # Skip incomplete rows
continue
english_word = row[1]
thai_word = row[3]
category = row[4]
thai_syn = row[5]
eng_syn = row[6]
eng_ant = row[7]
if not english_word: # Skip entries without English word
continue
# Create different types of prompts
prompt_types = [
f"What is the Thai translation of '{english_word}'?",
f"How do you say '{english_word}' in Thai?",
f"Can you translate '{english_word}' to Thai?",
f"What does '{english_word}' mean in Thai?",
f"Give me the Thai equivalent of '{english_word}'",
f"Please translate '{english_word}' into Thai",
f"What's the Thai word for '{english_word}'?",
f"I need the Thai translation for '{english_word}'",
f"How would you translate '{english_word}' to Thai?",
f"Could you tell me what '{english_word}' is in Thai?",
f"What is '{english_word}' in Thai language?",
f"Translate '{english_word}' from English to Thai",
f"Can you explain the meaning of '{english_word}' in Thai?",
f"I want to know how to say '{english_word}' in Thai",
f"Please provide the Thai translation and usage of '{english_word}'",
f"What's the Thai meaning of '{english_word}'?",
f"How is '{english_word}' expressed in Thai?",
f"Give me the Thai definition of '{english_word}'",
f"I'd like to know the Thai equivalent of '{english_word}'",
f"What's the Thai word and meaning for '{english_word}'?",
f"คำว่า '{english_word}' แปลว่าอะไร",
f"'{english_word}' แปลเป็นภาษาไทยว่าอย่างไร",
f"ช่วยแปลคำว่า '{english_word}' เป็นภาษาไทยหน่อย",
f"'{english_word}' ภาษาไทยคือคำว่าอะไร",
f"อยากทราบความหมายภาษาไทยของคำว่า '{english_word}'",
f"ขอคำแปลภาษาไทยของ '{english_word}'",
f"'{english_word}' มีความหมายในภาษาไทยว่าอย่างไร",
f"ช่วยบอกความหมายภาษาไทยของ '{english_word}' หน่อย",
f"'{english_word}' ในภาษาไทยแปลว่าอะไร",
f"ขอความหมายภาษาไทยของคำว่า '{english_word}'"
]
# Randomly select prompt type
prompt = random.choice(prompt_types)
# Convert category abbreviation to full name
category_mapping = {
'N': 'Noun',
'V': 'Verb',
'VT': 'Transitive Verb',
'VI': 'Intransitive Verb',
'ADJ': 'Adjective',
'ADV': 'Adverb',
'PREP': 'Preposition',
'CONJ': 'Conjunction',
'CLAS': 'Classifier',
'PRON': 'Pronoun',
'DET': 'Determiner',
'ABBR': 'Abbreviation'
}
# Map the abbreviated category to full name, default to original if not found
category = category_mapping.get(category, category)
# Create response based on available information
response = f"คำว่า '{english_word}' เป็นคำประเภท {category}"
if thai_word:
response += f" แปลเป็นภาษาไทยว่า '{thai_word}'"
if thai_syn:
response += f"\nคำที่มีความหมายเหมือนกันในภาษาไทย: {thai_syn}"
if eng_ant:
response += f"\nคำที่มีความหมายตรงข้ามในภาษาอังกฤษ: {eng_ant}"
if eng_syn:
response += f"\nคำที่มีความหมายเหมือนกันในภาษาอังกฤษ: {eng_syn}"
# Create data in both formats
# Format 1: Qwen2 conversation format
conversation = (
"<|im_start|>system\n"
"คุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์.<|im_end|>\n"
f"<|im_start|>user\n{prompt}<|im_end|>\n"
f"<|im_start|>assistant\n{response}<|im_end|>"
)
# Format 2: JSONL format
json_data = {
"instruction": prompt,
"output": response
}
training_data.append((conversation, json_data))
return training_data
# Generate training data
training_examples = create_training_data()
# Write to output files
with open('lexitron2_etlex_finetune.qwen2.txt', 'w', encoding='utf-8') as f:
for example, _ in training_examples:
example = example.replace('\n', '\\n')
f.write(example + '\n')
with open('lexitron2_etlex_finetune.jsonl', 'w', encoding='utf-8') as f:
for _, json_data in training_examples:
f.write(json.dumps(json_data, ensure_ascii=False) + '\n')
|