metadata

datasets:
  - heegyu/glaive-function-calling-v2-ko

function call 모델 학습해봤으나 호출 시점을 제대로 파악하지 못함 ㅜ..

Usage

from transformers import pipeline


pipe = pipeline('text-generation', "heegyu/1213-42dot-1.3B-function-calling-v2-2e-5", device="cuda:0", revision="epoch-1")

print(pipe("""당신은 다음과 같은 기능에 접근할 수 있는 도움이 되는 AI 어시스턴트입니다. 필요하다면 이 기능들을 사용하세요
{
  "name": "get_news_headlines",
  "description": "Get the latest news headlines",
  "parameters": {
    "type": "object",
    "properties": {
      "country": {
        "type": "string",
        "description": "The country for which to fetch news"
      }
    },
    "required": [ "country" ]
  }
}
<human>:
어제 미국에서 일어난 최신 뉴스가 알고싶어
<bot>:
""",
     max_new_tokens=128)[0]['generated_text'])

실행 결과

당신은 다음과 같은 기능에 접근할 수 있는 도움이 되는 AI 어시스턴트입니다. 필요하다면 이 기능들을 사용하세요
{ 
  "name": "get_news_headlines", 
  "description": "Get the latest news headlines", 
  "parameters": { 
    "type": "object", 
    "properties": { 
      "country": { 
        "type": "string", 
        "description": "The country for which to fetch news" 
      }
    },
    "required": [ "country" ] 
  } 
}
<human>:
어제 미국에서 일어난 최신 뉴스가 알고싶어
<bot>:
<function-call>{"name": "get_news_headlines", "arguments": '{"country": "United States"}'}</function-call>