etlex_convert_to_qwen2_finetune.py

import csv
import random
import json

def create_training_data():
    training_data = []
    
    # Read CSV file
    with open('etlex-utf8.csv', 'r', encoding='utf-8') as f:
        reader = csv.reader(f)
        word_data = list(reader)
    
    for row in word_data:
        if len(row) < 7:  # Skip incomplete rows
            continue
            
        english_word = row[1]
        thai_word = row[3]
        category = row[4]
        thai_syn = row[5]
        eng_syn = row[6]
        eng_ant = row[7]
        
        if not english_word:  # Skip entries without English word
            continue
            
        # Create different types of prompts
        prompt_types = [
            f"What is the Thai translation of '{english_word}'?",
            f"How do you say '{english_word}' in Thai?", 
            f"Can you translate '{english_word}' to Thai?",
            f"What does '{english_word}' mean in Thai?",
            f"Give me the Thai equivalent of '{english_word}'",
            f"Please translate '{english_word}' into Thai",
            f"What's the Thai word for '{english_word}'?",
            f"I need the Thai translation for '{english_word}'",
            f"How would you translate '{english_word}' to Thai?",
            f"Could you tell me what '{english_word}' is in Thai?",
            f"What is '{english_word}' in Thai language?",
            f"Translate '{english_word}' from English to Thai",
            f"Can you explain the meaning of '{english_word}' in Thai?",
            f"I want to know how to say '{english_word}' in Thai",
            f"Please provide the Thai translation and usage of '{english_word}'",
            f"What's the Thai meaning of '{english_word}'?",
            f"How is '{english_word}' expressed in Thai?",
            f"Give me the Thai definition of '{english_word}'",
            f"I'd like to know the Thai equivalent of '{english_word}'",
            f"What's the Thai word and meaning for '{english_word}'?",
            f"คำว่า '{english_word}' แปลว่าอะไร",
            f"'{english_word}' แปลเป็นภาษาไทยว่าอย่างไร",
            f"ช่วยแปลคำว่า '{english_word}' เป็นภาษาไทยหน่อย",
            f"'{english_word}' ภาษาไทยคือคำว่าอะไร",
            f"อยากทราบความหมายภาษาไทยของคำว่า '{english_word}'",
            f"ขอคำแปลภาษาไทยของ '{english_word}'",
            f"'{english_word}' มีความหมายในภาษาไทยว่าอย่างไร",
            f"ช่วยบอกความหมายภาษาไทยของ '{english_word}' หน่อย",
            f"'{english_word}' ในภาษาไทยแปลว่าอะไร",
            f"ขอความหมายภาษาไทยของคำว่า '{english_word}'"
        ]
        
        # Randomly select prompt type
        prompt = random.choice(prompt_types)
        
        # Convert category abbreviation to full name
        category_mapping = {
            'N': 'Noun',
            'V': 'Verb',
            'VT': 'Transitive Verb',
            'VI': 'Intransitive Verb', 
            'ADJ': 'Adjective',
            'ADV': 'Adverb',
            'PREP': 'Preposition',
            'CONJ': 'Conjunction',
            'CLAS': 'Classifier',
            'PRON': 'Pronoun',
            'DET': 'Determiner',
            'ABBR': 'Abbreviation'
        }
        
        # Map the abbreviated category to full name, default to original if not found
        category = category_mapping.get(category, category)
        
        # Create response based on available information
        response = f"คำว่า '{english_word}' เป็นคำประเภท {category}"
        
        if thai_word:
            response += f" แปลเป็นภาษาไทยว่า '{thai_word}'"
            
        if thai_syn:
            response += f"\nคำที่มีความหมายเหมือนกันในภาษาไทย: {thai_syn}"
            
        if eng_ant:
            response += f"\nคำที่มีความหมายตรงข้ามในภาษาอังกฤษ: {eng_ant}"
            
        if eng_syn:
            response += f"\nคำที่มีความหมายเหมือนกันในภาษาอังกฤษ: {eng_syn}"

        # Create data in both formats
        # Format 1: Qwen2 conversation format
        conversation = (
            "<|im_start|>system\n"
            "คุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์.<|im_end|>\n"
            f"<|im_start|>user\n{prompt}<|im_end|>\n"
            f"<|im_start|>assistant\n{response}<|im_end|>"
        )
        
        # Format 2: JSONL format
        json_data = {
            "instruction": prompt,
            "output": response
        }
        
        training_data.append((conversation, json_data))
        
    return training_data

# Generate training data
training_examples = create_training_data()

# Write to output files
with open('lexitron2_etlex_finetune.qwen2.txt', 'w', encoding='utf-8') as f:
    for example, _ in training_examples:
        example = example.replace('\n', '\\n')
        f.write(example + '\n')

with open('lexitron2_etlex_finetune.jsonl', 'w', encoding='utf-8') as f:
    for _, json_data in training_examples:
        f.write(json.dumps(json_data, ensure_ascii=False) + '\n')