Update README.md

README.md

@@ -1,3 +1,71 @@
----
-license: apache-2.0
----
+---
+license: apache-2.0
+language:
+- ko
+- en
+base_model:
+- unsloth/Qwen2.5-7B
+tags:
+- krx
+---
+
+Sejong-Qwen-v1_inference.ipynb: [![Open In Colab](https://colab.research.google.com/drive/1ZIjsV-zHNXOKOk03PCrJiAdG8I8JlqHh?usp=sharing)
+
+# Usage:
+
+8.7 GB의 GPU RAM을 사용하여, Colab에서 T4로 안정적인 Inference가 가능합니다.
+
+
+``` python
+!pip install transformers einops accelerate
+!pip install qwen
+!pip install unsloth
+
+from transformers import AutoTokenizer, AutoModelForCausalLM
+
+# 토크나이저와 모델 로드
+tokenizer = AutoTokenizer.from_pretrained(
+    "SejongKRX/Sejong-Qwen-v1",
+    trust_remote_code=True,
+    use_fast=False
+)
+model = AutoModelForCausalLM.from_pretrained(
+    "SejongKRX/Sejong-Qwen-v1",
+    trust_remote_code=True
+)
+
+# 입력 텍스트
+input_text =  """
+다음 중 화폐의 시간가치에 관한 설명으로 옳지 않은 것은 무엇인가?
+
+A. 월 복리의 경우, 매월 적용되는 이자율은 연간 명목 이자율을 1/12로 나누어 산출한다.
+B. 투자 원금 및 기타 조건이 동일할 경우, 단리 방식보다 복리 방식에서 발생하는 이자가 더 크다.
+C. 일시불로 지급될 금액의 현재 가치는 미래 가치를 일정 기간 동안 할인율을 적용해 산출할 수 있다.
+D. 1,000,000원을 연 5% 복리로 2년 동안 예치했을 경우, 만기에 받을 세전 이자는 100,000원이다.
+
+### 정답:
+"""
+
+# 토큰화 및 입력 텐서를 GPU로 이동
+inputs = tokenizer(input_text, return_tensors="pt").to("cuda")
+
+# 모델을 사용하여 텍스트 생성
+output = model.generate(**inputs, max_length=1500)
+
+# 결과 디코딩
+generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
+print(generated_text)
+```
+
+output:
+```
+다음 중 화폐의 시간가치에 관한 설명으로 옳지 않은 것은 무엇인가?
+
+A. 월 복리의 경우, 매월 적용되는 이자율은 연간 명목 이자율을 1/12로 나누어 산출한다.
+B. 투자 원금 및 기타 조건이 동일할 경우, 단리 방식보다 복리 방식에서 발생하는 이자가 더 크다.
+C. 일시불로 지급될 금액의 현재 가치는 미래 가치를 일정 기간 동안 할인율을 적용해 산출할 수 있다.
+D. 1,000,000원을 연 5% 복리로 2년 동안 예치했을 경우, 만기에 받을 세전 이자는 100,000원이다.
+
+### 정답:
+D
+```