Update README.md

README.md

@@ -1,12 +1,18 @@
 ---
 library_name: transformers
-tags: []
+tags:
+- dpo
+license: cc
+datasets:
+- llm-jp/hh-rlhf-12k-ja
+language:
+- ja
 ---
 
 ## モデル
 
-- ベースモデル：[llm-jp/llm-jp-1.3b-v1.0](https://huggingface.co/llm-jp/llm-jp-1.3b-v1.0)
-- 学習データセット：[llm-jp/databricks-dolly-15k-ja](https://huggingface.co/datasets/llm-jp/databricks-dolly-15k-ja)
+- ベースモデル：[ryota39/llm-jp-1b-sft-100k-LoRA](https://huggingface.co/ryota39/llm-jp-1b-sft-100k-LoRA)
+- 学習データセット：[llm-jp/hh-rlhf-12k-ja](https://huggingface.co/datasets/llm-jp/hh-rlhf-12k-ja)
 - 学習方式：フルパラメータチューニング
 
 ## サンプル
@@ -17,12 +23,12 @@ from transformers import AutoTokenizer, AutoModelForCausalLM
 
 
 tokenizer = AutoTokenizer.from_pretrained(
- "ryota39/llm-jp-1b-sft-15k"
+ "ryota39/llm-jp-1b-sft-100k-LoRA-dpo-12k"
  )
 pad_token_id = tokenizer.pad_token_id
 
 model = AutoModelForCausalLM.from_pretrained(
- "ryota39/llm-jp-1b-sft-15k",
+ "ryota39/llm-jp-1b-sft-100k-LoRA-dpo-12k",
  device_map="auto",
  )
 
@@ -44,7 +50,7 @@ with torch.no_grad():
  do_sample=True,
  top_p=0.95,
  temperature=0.8,
- repetition_penalty=1.0
+ repetition_penalty=1.10
  )[0]
 
 print(tokenizer.decode(output))
@@ -55,23 +61,22 @@ print(tokenizer.decode(output))
 
 ```
 ###Input: 東京の観光名所を教えてください。
-###Output: 東京には多くの観光名所がある：
-1.皇居
-2.江戸東京博物館
-3.東京タワー
-4.東京スカイツリー
-5.芝公園
-6.東京タワー、増上寺、増上寺宝物館
-7.浜離宮恩賜庭園
-8.東京都庁
-9.増上寺
-10.新宿御苑
-11.浅草寺
-12.上野公園
-13.お台場
-14.明治神宮
-15.上野動物園
-16.東京国立博物館
-17.浅草寺、浅草寺仲見
-
-```
+###Output: 20枚の観光スポット写真がランダムに出される。写真はどこでもよい。
+10枚以上がベストだが、10枚以下でも可。1枚につき「観光地」と「街歩き」の2種類の選択肢があるが、この時には「観光地」しか選ばないこと。
+写真は5秒以内に撮らせること。1人ずつ順番に写真を撮る。最後に写真から観光名所1枚を選び、その写真に対して###Output: 大阪の観光名所を教えてください。
+###Output: 30
+
+```
+
+## 謝辞
+
+本成果は【LOCAL AI HACKATHON #001】240時間ハッカソンの成果です。
+運営の方々に深く御礼申し上げます。
+
+- 【メタデータラボ株式会社】様
+- 【AI声づくり技術研究会】
+ - サーバー主：やなぎ(Yanagi)様
+- 【ローカルLLMに向き合う会】
+ - サーバー主：saldra(サルドラ)様
+
+[メタデータラボ、日本最大規模のAIハッカソン「LOCAL AI HACKATHON #001」~ AIの民主化 ~を開催、本日より出場チームの募集を開始](https://prtimes.jp/main/html/rd/p/000000008.000056944.html)