README.md

metadata

license: cc-by-nc-4.0
base_model:
  - google/gemma-2-2b-it

Gemma-2-2b 초등학생 글 변환기

Model Description

• Gemma2-2b 한국 초등학생 글 변환기는 입력한 글을 초등학생이 쓴 것 같은 글로 변환해 주는 모델입니다.
• Gemma2-2b-it 모델을 base model로 사용하였고 LoRA기법을 사용하여 효율적으로 fine-tuning 하였습니다.

Usage

import transformers
import torch
from huggingface_hub import notebook_login

notebook_login()

BASE_MODEL = "skwh54/Gemma-2-2b-it-elementary-style-document"

model = AutoModelForCausalLM.from_pretrained(BASE_MODEL, device_map={"":0})
tokenizer = AutoTokenizer.from_pretrained(BASE_MODEL)

Training data

• korean_smile_style_dataset을 사용하였습니다.
• 본 데이터는 Smilegate AI에서 공개하는 한국어 문체 스타일 변환 "SmileStyle" 데이터셋입니다.
• 여러 스타일의 문체가 존재하며 이 중에서 formal과 choding 스타일의 데이터만을 추출하여 사용하였습니다.