szymonrucinski
commited on
Commit
•
ed52f5b
1
Parent(s):
2a408a5
Update README.md
Browse files
README.md
CHANGED
@@ -21,6 +21,22 @@ Krakowiak-v2-7b is a huge update to [Krakowiak-7b](https://huggingface.co/szymon
|
|
21 |
|
22 |
Mistral 7B is a pretrained base model and therefore does not have any moderation mechanisms.
|
23 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
24 |
## Krakowiak team
|
25 |
|
26 |
[Szymon Franciszek Ruciński](https://szymonrucinski.pl)
|
|
|
21 |
|
22 |
Mistral 7B is a pretrained base model and therefore does not have any moderation mechanisms.
|
23 |
|
24 |
+
## Instruction format
|
25 |
+
|
26 |
+
In order to leverage instruction fine-tuning, your prompt should be surrounded by `[INST]` and `[/INST]` tokens. The very first instruction should begin with a begin of sentence id. The next instructions should not. The assistant generation will be ended by the end-of-sentence token id.
|
27 |
+
|
28 |
+
E.g.
|
29 |
+
```
|
30 |
+
text = "<s>[INST] Czy warto się uczyć? [/INST]"
|
31 |
+
"Jako model języka AI nie mam osobistych opinii ani przekonań. Jednak uczanie się jest ogólnie cenione i angażuje długoterminowe korzyści dla jednostki i społeczeństwa. Dzięki nauce można opracować umiejętności, zdobąć wiedzę i zwiększyć potencjał osobisty i zawodowy. Ponadto nauka promuje otwartość na innowacje i może zapewnić lepszą perspektywę życia. Dlatego uczanie się jest ogólnie cenione i wartościowe dla osób, które chcą osiągnąć cel lub rozwinąć swoją wiedzę. Jednak każda sytuacja może być inna i niektóre osoby mogą mieć różne cele lub okoliczności, które wpływają na ich podejście do nauki. Ostatecznie zależy to od indywidualnych preferencji i celów.</s> "
|
32 |
+
"[INST] Gdzie warto się uczyć? [/INST]"
|
33 |
+
```
|
34 |
+
|
35 |
+
## Model parameters
|
36 |
+
|
37 |
+
From my experience the temperature value of 0.7 is the best baseline value.
|
38 |
+
|
39 |
+
|
40 |
## Krakowiak team
|
41 |
|
42 |
[Szymon Franciszek Ruciński](https://szymonrucinski.pl)
|