bjoernp commited on
Commit
d3598dd
1 Parent(s): 2ed5de1

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +14 -6
README.md CHANGED
@@ -64,11 +64,12 @@ prompt = "Erkläre mir wie die Fahrradwegesituation in Hamburg ist."
64
 
65
  generator = pipeline(model="LeoLM/leo-hessianai-7b-chat", device="cuda", torch_dtype=torch.float16, trust_remote_code=True) # True for flash-attn2 else False
66
  print(generator(prompt_format.format(prompt=prompt), do_sample=True, top_p=0.95, max_length=8192))
67
- > Als KI kann ich keine persönlichen Beobachtungen teilen, aber ich kann einige allgemeine Informationen zur Fahrradwegesituation in Hamburg liefern. Im Vergleich zu vielen anderen großen Städten hat Hamburg eine hohe Anzahl von Fahrradfahrern und nimmt seine Verantwortung für nachhaltige Verkehrsmittel sehr ernst. Es gibt viele Fahrradwege und separate Fahrspuren, die Radfahrern ermöglichen, zusammen mit dem Autoverkehr zu fahren. Diese Fahrradspuren sind oft mit Markierungen gekennzeichnet und durch physische Trennungen von anderen Fahrspuren abgegrenzt. Darüber hinaus gibt es viele Fahrradstraßen, auf denen Radfahrer Vorfahrt haben und Autos langsamer fahren müssen.
68
- >
69
- > In einigen städtischen Gebieten können Fahrradwege jedoch eng oder überfüllt sein, besonders während der Stoßzeiten. Es gibt auch viele Kreuzungen, an denen Radfahrer anhalten und auf Grün warten müssen, ähnlich wie Autofahrer. Insgesamt ist die Fahrradinfrastruktur in Hamburg ziemlich gut, aber wie überall gibt es immer Raum für Verbesserungen.
70
  ```
71
 
 
 
 
 
72
  ## Prompting / Prompt Template
73
 
74
  Prompt dialogue template (ChatML format):
@@ -106,10 +107,17 @@ perform safety testing and tuning tailored to their specific applications of the
106
  Please see Meta's [Responsible Use Guide](https://ai.meta.com/llama/responsible-use-guide/).
107
 
108
  ## Finetuning Details
109
- ```
110
- Examples per epoch131214
111
 
112
- ```
 
 
 
 
 
 
 
 
 
113
 
114
  ## Dataset Details
115
  ```
 
64
 
65
  generator = pipeline(model="LeoLM/leo-hessianai-7b-chat", device="cuda", torch_dtype=torch.float16, trust_remote_code=True) # True for flash-attn2 else False
66
  print(generator(prompt_format.format(prompt=prompt), do_sample=True, top_p=0.95, max_length=8192))
 
 
 
67
  ```
68
 
69
+ "*Als KI kann ich keine persönlichen Beobachtungen teilen, aber ich kann einige allgemeine Informationen zur Fahrradwegesituation in Hamburg liefern. Im Vergleich zu vielen anderen großen Städten hat Hamburg eine hohe Anzahl von Fahrradfahrern und nimmt seine Verantwortung für nachhaltige Verkehrsmittel sehr ernst. Es gibt viele Fahrradwege und separate Fahrspuren, die Radfahrern ermöglichen, zusammen mit dem Autoverkehr zu fahren. Diese Fahrradspuren sind oft mit Markierungen gekennzeichnet und durch physische Trennungen von anderen Fahrspuren abgegrenzt. Darüber hinaus gibt es viele Fahrradstraßen, auf denen Radfahrer Vorfahrt haben und Autos langsamer fahren müssen.*
70
+
71
+ *In einigen städtischen Gebieten können Fahrradwege jedoch eng oder überfüllt sein, besonders während der Stoßzeiten. Es gibt auch viele Kreuzungen, an denen Radfahrer anhalten und auf Grün warten müssen, ähnlich wie Autofahrer. Insgesamt ist die Fahrradinfrastruktur in Hamburg ziemlich gut, aber wie überall gibt es immer Raum für Verbesserungen.*"
72
+
73
  ## Prompting / Prompt Template
74
 
75
  Prompt dialogue template (ChatML format):
 
107
  Please see Meta's [Responsible Use Guide](https://ai.meta.com/llama/responsible-use-guide/).
108
 
109
  ## Finetuning Details
 
 
110
 
111
+ | Hyperparameter | Value |
112
+ |---|---|
113
+ | Num epochs | 3 |
114
+ | Examples per epoch | 131214 |
115
+ | Global batch size | 256 |
116
+ | Learning rate | 3e-5 |
117
+ | Warmup steps | 100 |
118
+ | LR scheduler | Cosine |
119
+ | Adam betas | (0.9, 0.95) |
120
+
121
 
122
  ## Dataset Details
123
  ```