DataPilot
commited on
README.md
CHANGED
@@ -1,3 +1,65 @@
|
|
1 |
---
|
2 |
license: apache-2.0
|
|
|
|
|
3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
---
|
2 |
license: apache-2.0
|
3 |
+
inference: false
|
4 |
+
language: ja
|
5 |
---
|
6 |
+
|
7 |
+
## 概要
|
8 |
+
|
9 |
+
「LOCAL AI HACKATHON」における、チームDataPilot,3つめの成果品です。Line社が開発した「japanese-large-lm-3.6b-instruction-sft」をウィキブックの内容をもとに中学、高校範囲にてファインチューニングを行いました。
|
10 |
+
|
11 |
+
## how to use
|
12 |
+
|
13 |
+
```python
|
14 |
+
import torch
|
15 |
+
from transformers import AutoModelForSequenceClassification
|
16 |
+
from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline #transformerとtorchがインストールされていることを前提とします。
|
17 |
+
|
18 |
+
model = AutoModelForCausalLM.from_pretrainedmodel = AutoModelForCausalLM.from_pretrained("DataPilot/ArrowSmartPlus_3.6B_instant_sft")
|
19 |
+
tokenizer = AutoTokenizer.from_pretrained("DataPilot/ArrowSmartPlus_3.6B_instant_sft")
|
20 |
+
|
21 |
+
generator = pipeline("text-generation", model=model, tokenizer=tokenizer, device=0)
|
22 |
+
|
23 |
+
torch.cuda.empty_cache()
|
24 |
+
|
25 |
+
input_text = """有機物とは"""
|
26 |
+
text = generator(
|
27 |
+
f"ユーザー: {input_text} システム: ",
|
28 |
+
max_length = 100,
|
29 |
+
do_sample = True,
|
30 |
+
temperature = 0.7,
|
31 |
+
top_p = 0.9,
|
32 |
+
top_k = 0,
|
33 |
+
repetition_penalty = 1.1,
|
34 |
+
num_beams = 1,
|
35 |
+
pad_token_id = tokenizer.pad_token_id,
|
36 |
+
num_return_sequences = 1,
|
37 |
+
)
|
38 |
+
|
39 |
+
print(text)
|
40 |
+
|
41 |
+
```
|
42 |
+
|
43 |
+
## トークン化:
|
44 |
+
|
45 |
+
ユニグラム言語モデルとバイトフォールバックを備えたセンテンスピーストークナイザー(sentencepiece tokenizer)を使用します。日本語トークナイザーによる事前トークン化は適用されません。したがって、ユーザーは生の文をトークナイザーに直接フィードできます。
|
46 |
+
|
47 |
+
## ライセンス:
|
48 |
+
|
49 |
+
当LLMはオープンソースソフトウェアです。詳しくは下記のリンクをご覧ください。
|
50 |
+
https://www.apache.org/licenses/LICENSE-2.0
|
51 |
+
|
52 |
+
## 謝辞:
|
53 |
+
|
54 |
+
機材を貸していただいた Witnessさん 、このような機会を与えてくださった さるどらさん 、その他助言を与えてくださった「ローカルLLMに向き合う会」のみなさま、そしてすべての関係者の皆様に感謝を申し上げます。
|
55 |
+
|
56 |
+
witnessさん:
|
57 |
+
https://twitter.com/i_witnessed_it
|
58 |
+
|
59 |
+
|
60 |
+
さるどらさん:
|
61 |
+
https://twitter.com/sald_ra
|
62 |
+
|
63 |
+
|
64 |
+
ローカルLLMに向き合う会:
|
65 |
+
https://discord.com/invite/VuYCYkYaHK
|