README.md

metadata

base_model: MLP-KTLim/llama-3-Korean-Bllossom-8B
language:
  - en
license: apache-2.0
tags:
  - text-generation-inference
  - transformers
  - unsloth
  - llama
  - trl
library_name: peft

0725-ko-genstruct-v0.2-writing

Ko-genstruct는 주어진 문서로부터 Instruction Tuning 데이터를 생성해내는 모델입니다.

모델	유형
iknow-lab/0725-ko-genstruct-v0.2-simple-qa	단순한 질문과 답변 생성
iknow-lab/0725-ko-genstruct-v0.2-writing	글쓰기 지시문과 답변 생성
iknow-lab/0725-ko-genstruct-v0.2-creative-writing	창의적인 글쓰기 지시문과 답변 생성

이 모델은 Ada-instruct와 Genstruct로부터 영감을 받았습니다.

다음과 같은 용도로 활용할 수 있습니다.

• 검색 모델을 학습하기 위해 주어진 텍스트로부터 질문을 생성하기
• 보유한 데이터를 이용하여 Instruction Tuning 학습 데이터를 생성

사용방법

생성 예제

import transformers

transformers.logging.set_verbosity_error()

import transformers
import peft

model_id = "MLP-KTLim/llama-3-Korean-Bllossom-8B"
peft_model_id = "iknow-lab/0725-ko-genstruct-v0.2-writing"

tokenizer = transformers.AutoTokenizer.from_pretrained(model_id)
model = transformers.AutoModelForCausalLM.from_pretrained(model_id, device_map="cuda:0", torch_dtype="auto").eval()

model.load_adapter(peft_model_id)

text = """
제1장 총칙

제1조(목적) 이 학칙은 아주대학교(이하“본 대학교”라 한다)의 이념을 설정하고 이를 달성하는데 필요한 사항을 규정함을 목적으로 한다.

제2조(대학이념) 본 대학교는 대한민국 교육의 근본이념에 입각하여 인간존중, 실사구시, 세계일가의 정신으로 국가 및 인류사회의 발전에 기여할 수 있는 유능한 인재를 양성하고 학술의 심오한 이론과 그 광범하고 정치한 응용방법을 연구하며 교육ㆍ연구의 능력과 시설을 활용하여 사회에 직접 봉사하는 것을 목표로 한다.

제3조(정의) ①“학사과정”이라 함은 학사학위를 수여하기 위한 과정을 말한다.
   ②“석사과정”이라 함은 석사학위를,“박사과정”이라 함은 박사학위를,“석ㆍ박사통합과정”이라 함은 학사에게 박사학위를 각각 수여하기 위한 과정을 말한다.
   ③“대학원과정”이라 함은 본 대학교 일반대학원, 전문대학원 및 특수대학원에 설치된 석사과정, 박사과정 및 석ㆍ박사통합과정 모두를 말한다.
   ④“학과간협동과정”이라 함은 대학원과정 안에 2개 이상의 학과가 공동으로 설치ㆍ운영하는 과정을 말한다. (개정 2013.7.5)
   ⑤“학연산협동과정”이라 함은 대학원과정 안에 연구기관 또는 산업체와의 계약에 의하여 설치ㆍ운영하는 학ㆍ연ㆍ산, 학ㆍ연 또는 학ㆍ산 협동과정을 말한다.
   ⑥“학ㆍ석사연계과정”이라 함은 본 대학교 학사과정과 일반대학원 석사과정을 연계하는 과정을 말한다. (신설 2008.5.21)
   ⑦“특수학부”라 함은 대학에 소속되어 있지 않은 독립학부를 말한다. (개정 2008.5.21) (개정 2010.7.21)
   ⑧ “전문과정”이라 함은 학사과정에서 대외 교육인증을 받기 위하여 운영하는 교육과정을 말한다. (신설 2011.8.11)


제2장 조직

제4조(기구) 본 대학교에 총장, 교무부총장, 의무부총장, 산학부총장, 대학, 일반대학원, 전문대학원, 특수대학원, 특수학부, 대학교본부, 부속기관, 연구기관, 지원기관, 아주대학교산학협력단, 의료원, 총장직속기구, 부총장직속기구 및 특별기구를 두며, 세부사항은 별표1과 같다. (개정 2007.3.26) (개정 2007.7.25) (개정 2007.9.9) (개정 2008.2.22) (개정 2008.12.16) (개정 2009.2.20) (개정 2009.4.2) (개정 2009.4.29) (개정 2009.7.27) (개정 2009.10.18) (개정 2009.12.7) (개정 2010.2.26) (개정 2010.7.21) (개정 2011.1.11) (개정 2011.8.11) (개정 2011.12.23) (개정 2012.5.10) (개정 2012.7.17) (개정 2012.11.19) (개정 2013.1.25) (개정 2013.5.1) (개정 2013.7.30) (개정 2013.12.31) (개정 2014.5.30) (개정 2014.6.30) (개정 2015.2.10) (개정 2015.05.18) (개정 2015.08.13.) (개정 2015.10.16) (개정 2016.1.8) (개정 2016.2.3) (개정 2016.3.24) (개정 2016.5.9) (개정 2016.8.23) (개정 2016.12.29) (개정 2017.2.13) (개정 2017.4.19) (개정 2017.7.14) (개정 2018.1.31) (개정 2018.5.11) (개정 2018.8.12) (개정 2019.01.15) (개정 2019.10.2) (개정 2020.  .  )

제5조(총장) 총장은 교무를 통할하고 본 대학교를 대표한다.

제6조(부총장) ① 교무부총장은 의무(醫務)와 산학협력 이외의 교무(校務)에 관하여, 의무부총장은 의무(醫務)에 관하여 산학부총장은 산학협력에 관하여 총장을 보좌하며, 각 부총장은 총장이 구체적으로 위임한 업무를 관장한다. (개정 2009.4.2) (개정 2015.10.16)
   ② 총장이 궐위되거나 그 직무를 수행할 수 없는 사정이 있는 경우에는 이사장이 지명하는 부총장이 총장의 직무를 대행한다. (개정 2009.4.2) 

제7조(대학교본부) ① 대학교본부에 교무처, 연구정보처, 학생처, 총무처, 기획처, 입학처, 국제협력처를 둔다. (개정 2015.10.16) (개정 2017.4.19)
   ② 각 처의 업무에 관하여는「아주대학교 직제규정」으로 정한다.

제7조의2(평생학습중심대학추진본부) ①「아주대학교 직제규정」제5조 제10항에 의거 특별기구로 평생학습중심대학추진본부를 둔다. (신설 2009.7.27) (개정 2017.7.14)
   ② 평생학습중심대학추진본부는 평생교육과 관련한 제반업무를 관할한다. (신설 2009.7.27)
   ③ 평생학습중심대학추진본부 운영에 대해서는 총장이 따로 정한다. (신설 2009.7.27)

제7조의3(기관생명윤리위원회) ①「아주대학교 직제규정」제5조 제10항에 의거 특별기구로 기관생명윤리위원회를 둔다. (신설 2013.7.30) (개정 2017.7.14)
   ② 기관생명윤리위원회는 인간대상연구 및 인체유래물연구의 윤리와 안전을 심의하고 감독하는 업무를 관할한다. (신설 2013.7.30)
   ③ 기관생명윤리위원회 운영에 대해서는 총장이 따로 정한다. (신설 2013.7.30)"""



PROMPT_QA = """주어진 텍스트 컨텐츠를 참고하여 고난이도 글쓰기 지시문과 전문가 수준의 답변을 만드세요, 대답은 아래 형태로 작성하세요
**답변 형식**
[[Q]] 지시문

[[A]] 답변
---
{text}"""


def generate_question(text):
    prompt = PROMPT_QA.format(text=text)
    
    prompt = [{"content": prompt, "role": "user"}]
    inputs = tokenizer.apply_chat_template(prompt, return_tensors="pt", add_generation_prompt=True, tokenize=False)
    inputs = inputs.strip()
    inputs = tokenizer.encode(inputs, add_special_tokens=False, return_tensors="pt").to(model.device)
    outputs = model.generate(input_ids=inputs, max_new_tokens=256, do_sample=True, early_stopping=True, eos_token_id=128009, temperature=1.0)

    question = tokenizer.decode(outputs[0, inputs.shape[1]:], skip_special_tokens=True)

    return question


for _ in range(5):
    question = generate_question(text)
    print(question)

생성 결과

[[Q]] 한국의 대학 교육 시스템이 다양한 학위과정과 기관을 포함하는 방식으로 구성되어 있습니다. 이에 따라 다양한 학위과정이 존재하며, 대학원과정과 학사과정, 석사과정, 박사과정, 석ㆍ박사통합과정, 학연산협동과정, 학ㆍ석사연계과정, 전문과정 등이 포함되어 있습니다. 이러한 다양한 학위과정과 기관이 존재하는 이유에 대해 단계적으로 설명해 보세요. 먼저, 각 학위과정과 기관의 주요 목적을 설명한 후, 이들이 존재하는 배경과 필요성에 대해 논의하세요. 각 과정과 기관이 어떻게 상호 보완적이고 보강적 역할을 수행하는지 구체적으로 서술하세요. 마지막으로, 이러한 학위과정과 기관이 학생들의 학습 경험과 대학의 목표에 어떻게 기여하는지 평가해 주세요.

[[A]] 학위과정과 대학 기관은 대학 교육 시스템의 중요한 구성 요소로서 다양한 학위과정과 기관이 존재하는 이유를 살펴보겠습니다.

먼저, 학위과정은 학사, 석사, 박사과정을 포함한 대학원과정, 석ㆍ박사통합과정, 전문과정 등이 존재합니다. 학위과정은 학업 및 연구에 필요한 교육과정을 통해 학사학위, 석사학위, 박사학위를 취득할 수 있는 기회를 제공합니다. 각 학위과정은 해당 분야에서 전문지식을 습득하고 학문적 역량을 갖추기 위한 중요한 역할을 합니다. 이들은 대학의 교육의 중요한 부분이며, 학생들이 학문적 업적을 이룰 수 있도록 도와줍니다.

이와 함께, 대학은 학연산협동과정, 학ㆍ석사연계과정, 학연산협동과정, 학ㆍ석사연계과정, 전문과정 등 다양한 기관을 운영하고 있습니다. 이러한 대학 기관은 대학의 교육 및 연구 목표를 지원하고, 다양한 교육과정을 운영함으로써 학생들의 학습 경험을 보완하고 학문적 성장을 지원합니다. 대학원과정과 학사과정, 석사과정, 박사과정, 석ㆍ박사통합과정, 전문과정 등은 상호 보완적이고 보강적인 역할을 수행하여 학생들이 다양한 교육 경험을 제공하고 학문적 역량을 강화할 수 있도록 지원합니다.

이러한 학위과정과 대학 기관들이 존재하는 배경은 학생들의 학습 경험을 향상시키고, 대학의 교육 및 연구 목표를 달성하기 위함입니다. 학생들은 다양한 학위과정과 기관을 통해 학문적 지식을 습득하고 전문가로서의 역량을 키우며, 대학은 학생들의 학습을 지원하고 학문적 발전을 촉진하는 역할을 수행합니다. 따라서, 학위과정과 대학 기관은 학생들의 학습 경험과 대학의 목표에 중요한 기여를 하고 있습니다. 각 학위과정과 기관은 상호 보완적이고 보강적으로 작용하여 대학 교육 시스템을 풍부하고 효과적으로 운영하고 있습니다.


[[Q]] 아주대학교의 대학원과 관련된 조항을 포함한 학칙을 분석하고, 대학원과 관련된 다양한 학제 및 학문적 경향을 구체적으로 설명하세요. 대학원 과정에서 제공되는 연구 자격, 학문적 성취도, 그리고 연구 생태계가 학생들의 연구 능력 향상에 미치는 영향에 대해 평가해 주세요. 또한, 대학원 학위가 학생들이 향후 학문적 및 직업적 성과에 어떻게 기여할 수 있는지에 대한 예상을 상세히 작성하세요. 마지막으로, 대학원 교육이 학문적 전문성과 지식 형성에 미치는 영향을 논의해 주세요.

[[A]] 아주대학교의 대학원은 다양한 학제와 학문적 경향을 가진 다양한 프로그램을 제공하고 있습니다. 이 대학원에서 제공되는 학사, 석사, 박사 학위는 학생들에게 연구 자격을 부여하고 학문적 성취를 인정받는 기회를 제공합니다. 또한, 대학원 과정은 학생들에게 학문적 역량을 향상시키고 연구 능력을 기를 수 있는 환경을 제공하여 학생들이 학문적 전문성을 키우는데 큰 도움이 됩니다.

대학원 과정에서 제공되는 연구 자격은 학생들에게 학문적 성취를 인정받을 수 있는 기회를 제공합니다. 학생들은 자신만의 연구 주제를 선정하고 이를 통해 학문적 성과를 이루어내며 학위 획득을 위해 노력합니다. 이 과정에서 학생들은 교수진의 지도를 받고 연구를 진행하며, 학문적인 토론과 비평을 통해 자신의 연구에 대한 심화된 이해를 쌓을 수 있습니다.

또한, 대학원 연구 생태계는 학생들의 연구 능력 향상에 큰 영향을 미칩니다. 학생들은 다양한 연구 활동을 경험하며 연구 방법론을 습득하고, 연구를 통해 학문적 역량을 향상시킬 수 있습니다. 또한, 학문적 논쟁과 토론을 통해 다양한 관점을 수용하고 분석하는 능력을 키우며, 학문적 전문성을 구축할 수 있습니다.

대학원 학위가 학생들이 향후 학문적 및 직업적 성과에 미치는 영향은 매우 큽니다. 대학원 학위는 학생들에게 학문적 전문성과 학문적 자질을 인정받는 자격을 부여하며, 이를 통해 학생들은 미래에 학문적 경쟁력과 직업적 잠재력을 확보할 수 있습니다. 또한, 대학원 졸업생은 학문적 전문성과 연구 능력을 바탕으로 학문 분야에서 경쟁 우위를 확보할 수 있습니다.

마지막으로, 대학원 교육이 학문적 전문성과 지식 형성에 미치는 영향은 매우 중요합니다. 대학원은 학생들에게 학문적 방법론과 이론을 깊이 있게 이해하고 연구할 수 있는 환경을 제공하여 학생들이 학문적 전문성을 키우는데 큰 도움을 줍니다. 또한, 대학원 교육을 통해 학생들은 새로운 지식을 습득하고 지식 형성에 기여하며, 학문적 발전에 이바지할 수 있습니다. 따라서, 대학원 교육은 학생들의 학문적 성장과 학문적 전문성을 높이는 데 중요한 역할을 한다.


[[Q]] 대학 구성원들이 수행하는 주요 역할과 책임에 대해 각 구성원이 자신의 직무 수행을 위해 어떤 전략을 사용할 수 있는지 구체적으로 설명하십시오. 또한, 각 구성원이 협력하기 위해 필요한 절차와 방법을 단계별로 서술하고, 이에 따른 협력 방안을 제안하십시오. 단, 300자 이내로 작성하며, 각 단계에 대한 구체적인 예시를 포함해야 합니다. 마지막으로, 대학의 전반적인 목표를 달성하기 위한 팀워크의 중요성을 강조하십시오.

[[A]] 대학 구성원들은 총장, 부총장, 각 대학, 대학원, 전문대학원, 특수대학원, 대학교본부, 부속기관, 연구기관, 지원기관, 산학협력단, 의료원 등이 있다. 각 구성원은 자신의 역할과 책임을 수행하기 위해 다양한 전략을 사용할 수 있다. 예를 들어, 총장은 대학의 목표를 달성하기 위해 교무부총장을 통하여 조직을 이끌고, 각 부총장은 산학부총장을 통해 협력하여 업무를 조정한다. 대학원과 전문대학원, 특수대학원은 학사, 석사, 박사 학위를 통해 연구 및 교육을 수행하며, 대학교본부는 다양한 부처를 운영하여 학사과정, 석사과정, 박사과정 등을 지원한다. 이들은 각기 다른 역할과 책임을 수행하면서 협력하여 대학의 목표를 달성할 수 있다. 이를 위해 구성원들은 업무 분담을 명확히 하고, 정기적인 회의 및 의사 소통을 통해 정보 공유 및 문제 해결에 주의해야 한다. 팀워크를 통해 서로의 역량을 최대한 발휘하고 협력하여 대학의 발전을 이끌어 나가야 한다.


[[Q]] 본 대학교의 조직 구조를 규정하는 제2장의 내용을 바탕으로, 대학의 기관과 직제를 상세히 설명하세요. 각 기관과 직제의 역할 및 기능을 구체적으로 기술하고, 주요 업무와 책임을 포함하여 설명해주세요. 답변은 최소 300자 이상으로 작성해 주세요. 또한, 총장과 부총장의 역할이 어떻게 상호 보완적으로 작용하는지에 대한 설명도 포함해 주세요. 최종적으로, 각 기관의 역할을 비교하고 대조하는 시각도 추가해 주세요.

[[A]] 본 대학교의 조직 구조는 제2장에 따라 총장, 교무부총장, 의무부총장, 산학부총장, 대학, 일반대학원, 전문대학원, 특수대학원, 특수학부, 대학교본부, 부속기관, 연구기관, 지원기관, 아주대학교산학협력단, 의료원, 총장직속기구, 부총장직속기구 및 특별기구 등으로 구성되어 있다. 총장은 교무를 통할하고 본 대학교를 대표하며, 교무부총장은 의무부총장은 총장을 보좌하는 역할을 담당한다. 또한, 대학교본부에는 교무처, 연구정보처, 학생처, 총무처, 기획처, 입학처, 국제협력처 등이 있으며, 각 처의 업무는「아주대학교 직제규정」에 따라 정해져 있다.

총장과 부총장은 상호 보완적인 역할을 수행하며, 총장은 교무를 통할하고 대표자로서의 역할을 맡고, 부총장은 총장의 지시를 받아 각자의 부처에서 맡은 업무를 수행한다. 총장이 궐위되거나 직무를 수행할 수 없는 경우에는 부총장의 대행이 이루어지며, 이들을 지원하는 총장직속기구나 부총장직속기구가 존재한다. 

각 기관의 역할을 비교하고 대조하면, 교무부총장은 의무와 산학협력 업무를 담당하는 반면에 의무부총장은 의무 업무를, 산학부총장은 산학협력 업무를 총장에게 보좌하는 것으로 확인된다. 또한, 대학교본부는 교무, 연구정보, 학생, 총무, 기획, 입학, 국제협력 등의 다양한 업무를 수행한다. 

이를 통해 본 대학교는 다양한 부처가 협력하여 총장 및 부총장을 통해 효율적으로 조직을 운영하며, 각 기관의 역할을 명확하게 정해 놓음으로써 원활한 업무 수행이 이뤄지고 있다. 또한, 총장과 부총장의 상호 보완적인 역할을 통해 조직의 원활한 운영이 이루어지고 있으며, 각 기관의 역할을 비교 및 대조함으로써 조직의 효율성을 높이고 있는 것을 확인할 수 있다.


[[Q]] 주어진 글을 바탕으로 아주대학교의 조직 및 기관에 대한 구체적인 설명을 요약하세요. 설명은 300자 이내로 요약해 주세요. 총장, 부총장, 대학교본부, 평생학습중심대학추진본부, 기관생명윤리위원회 등의 주요 인물과 조직에 대해 언급된 역할과 책임을 상세히 설명하세요. 각각의 조직이 어떤 목적을 가지고 있고, 어떤 방식으로 운영되고 있는지 명확하게 전달해 주세요. 글의 내용을 바탕으로 추가적인 내용을 추론해 보도록 유도하는 질문을 포함해 주세요.

[[A]] 아주대학교는 총장을 중심으로 총장, 부총장, 대학교본부, 평생학습중심대학추진본부, 기관생명윤리위원회 등의 다양한 인물과 조직으로 구성되어 있습니다. 총장은 교무를 통할하고 본 대학교를 대표하며, 부총장은 총장을 보좌하는 역할을 합니다. 대학교본부는 교무, 연구정보, 학생, 총무, 기획, 입학, 국제협력 등 다양한 업무를 담당하고 있습니다. 평생학습중심대학추진본부는 평생교육 관련 업무를 관할하며, 기관생명윤리위원회는 인간대상연구 및 인체유래물연구의 윤리와 안전을 담당합니다. 이러한 조직들은 각기 다른 목적을 가지고 운영되며, 학교의 전반적인 운영과 연구, 교육에 중요한 역할을 하고 있습니다. 이러한 조직들이 어떻게 효율적으로 협력하고 운영될지에 대한 추가적인 질문이 제기될 수 있습니다. 

(요약: 287자)

추가적인 질문: 각 조직이 어떤 방식으로 협력하여 학교의 목표를 달성할 수 있을지 구체적인 사례를 들어 설명하세요. 또한, 조직 간의 효율적인 협력 방안을 제안해 보세요. 각 조직의 역할을 비교하여 어떤 점에서 상이성이 있으며, 그 차이가 학교의 운영에 어떤 영향을 미치는지 분석해 보세요. 마지막으로, 학교의 미래 발전을 위한 조직의 역할과 역량을 평가하여 개선점을 제안해 보세요. 이를 통해 학교의 효율적인 조직 운영을 위해 어떤 조치가 필요할지 논의하세요.

Model

• Developed by: iknow-lab
• License: apache-2.0
• Finetuned from model : MLP-KTLim/llama-3-Korean-Bllossom-8B

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.