Update README.md
Browse files
README.md
CHANGED
@@ -64,11 +64,12 @@ prompt = "Erkläre mir wie die Fahrradwegesituation in Hamburg ist."
|
|
64 |
|
65 |
generator = pipeline(model="LeoLM/leo-hessianai-7b-chat", device="cuda", torch_dtype=torch.float16, trust_remote_code=True) # True for flash-attn2 else False
|
66 |
print(generator(prompt_format.format(prompt=prompt), do_sample=True, top_p=0.95, max_length=8192))
|
67 |
-
> Als KI kann ich keine persönlichen Beobachtungen teilen, aber ich kann einige allgemeine Informationen zur Fahrradwegesituation in Hamburg liefern. Im Vergleich zu vielen anderen großen Städten hat Hamburg eine hohe Anzahl von Fahrradfahrern und nimmt seine Verantwortung für nachhaltige Verkehrsmittel sehr ernst. Es gibt viele Fahrradwege und separate Fahrspuren, die Radfahrern ermöglichen, zusammen mit dem Autoverkehr zu fahren. Diese Fahrradspuren sind oft mit Markierungen gekennzeichnet und durch physische Trennungen von anderen Fahrspuren abgegrenzt. Darüber hinaus gibt es viele Fahrradstraßen, auf denen Radfahrer Vorfahrt haben und Autos langsamer fahren müssen.
|
68 |
-
>
|
69 |
-
> In einigen städtischen Gebieten können Fahrradwege jedoch eng oder überfüllt sein, besonders während der Stoßzeiten. Es gibt auch viele Kreuzungen, an denen Radfahrer anhalten und auf Grün warten müssen, ähnlich wie Autofahrer. Insgesamt ist die Fahrradinfrastruktur in Hamburg ziemlich gut, aber wie überall gibt es immer Raum für Verbesserungen.
|
70 |
```
|
71 |
|
|
|
|
|
|
|
|
|
72 |
## Prompting / Prompt Template
|
73 |
|
74 |
Prompt dialogue template (ChatML format):
|
@@ -106,10 +107,17 @@ perform safety testing and tuning tailored to their specific applications of the
|
|
106 |
Please see Meta's [Responsible Use Guide](https://ai.meta.com/llama/responsible-use-guide/).
|
107 |
|
108 |
## Finetuning Details
|
109 |
-
```
|
110 |
-
Examples per epoch131214
|
111 |
|
112 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
113 |
|
114 |
## Dataset Details
|
115 |
```
|
|
|
64 |
|
65 |
generator = pipeline(model="LeoLM/leo-hessianai-7b-chat", device="cuda", torch_dtype=torch.float16, trust_remote_code=True) # True for flash-attn2 else False
|
66 |
print(generator(prompt_format.format(prompt=prompt), do_sample=True, top_p=0.95, max_length=8192))
|
|
|
|
|
|
|
67 |
```
|
68 |
|
69 |
+
"*Als KI kann ich keine persönlichen Beobachtungen teilen, aber ich kann einige allgemeine Informationen zur Fahrradwegesituation in Hamburg liefern. Im Vergleich zu vielen anderen großen Städten hat Hamburg eine hohe Anzahl von Fahrradfahrern und nimmt seine Verantwortung für nachhaltige Verkehrsmittel sehr ernst. Es gibt viele Fahrradwege und separate Fahrspuren, die Radfahrern ermöglichen, zusammen mit dem Autoverkehr zu fahren. Diese Fahrradspuren sind oft mit Markierungen gekennzeichnet und durch physische Trennungen von anderen Fahrspuren abgegrenzt. Darüber hinaus gibt es viele Fahrradstraßen, auf denen Radfahrer Vorfahrt haben und Autos langsamer fahren müssen.*
|
70 |
+
|
71 |
+
*In einigen städtischen Gebieten können Fahrradwege jedoch eng oder überfüllt sein, besonders während der Stoßzeiten. Es gibt auch viele Kreuzungen, an denen Radfahrer anhalten und auf Grün warten müssen, ähnlich wie Autofahrer. Insgesamt ist die Fahrradinfrastruktur in Hamburg ziemlich gut, aber wie überall gibt es immer Raum für Verbesserungen.*"
|
72 |
+
|
73 |
## Prompting / Prompt Template
|
74 |
|
75 |
Prompt dialogue template (ChatML format):
|
|
|
107 |
Please see Meta's [Responsible Use Guide](https://ai.meta.com/llama/responsible-use-guide/).
|
108 |
|
109 |
## Finetuning Details
|
|
|
|
|
110 |
|
111 |
+
| Hyperparameter | Value |
|
112 |
+
|---|---|
|
113 |
+
| Num epochs | 3 |
|
114 |
+
| Examples per epoch | 131214 |
|
115 |
+
| Global batch size | 256 |
|
116 |
+
| Learning rate | 3e-5 |
|
117 |
+
| Warmup steps | 100 |
|
118 |
+
| LR scheduler | Cosine |
|
119 |
+
| Adam betas | (0.9, 0.95) |
|
120 |
+
|
121 |
|
122 |
## Dataset Details
|
123 |
```
|