README.md

---
license: apache-2.0
datasets:
- Dongwookss/q_a_korean_futsal
- Dongwookss/prac_fut
- mintaeng/llm_futsaldata_yo
language:
- ko
tags:
- trl
- unsloth
---


![image/png](https://cdn-uploads.huggingface.co/production/uploads/66305fd7fdd79b4fe6d6a5e5/7UDKdaPfBJnazuIi1cUVw.png)

- ** Base Model : ** 'HuggingFaceH4/zephyr-7b-beta'
- ** Purpose : ** '얼마든지 물어보세요~! 풋풋!'이 말 끝에 붙으며 '해요'체를 사용하는 챗봇을 구현하려고 한다. 프로젝트 목적상 RAG를 통해 풋살 도메인에 대한 정보를 제공하는 '풋풋이' 컨셉이기에 말투 설정이 이와 같다.
- ** Method : ** Unsloth 패키지를 사용하여 vram이 초과되지 않도록 하였으며 SFTrainer를 사용하여 모델훈련을 진행함.