Datasets:
Tasks:
Question Answering
Modalities:
Text
Formats:
json
Sub-tasks:
closed-domain-qa
Languages:
Russian
Size:
100K - 1M
License:
koziev ilya
commited on
Commit
•
0b80851
1
Parent(s):
926ed28
new baseline benchmarks including facebook/xglm-2.9B
Browse files
README.md
CHANGED
@@ -76,14 +76,15 @@ task_ids:
|
|
76 |
|
77 |
## Метрики генеративных моделей
|
78 |
|
79 |
-
После файнтюна (1 эпоха, lr=1e-5) на 90%
|
80 |
|
81 |
```
|
82 |
Модель Среднее отклонение числового ответа Доля верных ответов
|
83 |
в сравнении с верным
|
84 |
-
sberbank-ai/rugpt3small_based_on_gpt2
|
85 |
-
sberbank-ai/rugpt3medium_based_on_gpt2
|
86 |
-
sberbank-ai/rugpt3large_based_on_gpt2
|
|
|
87 |
```
|
88 |
|
89 |
## Генератор сэмплов
|
|
|
76 |
|
77 |
## Метрики генеративных моделей
|
78 |
|
79 |
+
После файнтюна (1 эпоха, lr=1e-5) на 90% датасета, получаются такие метрики на тестовой части:
|
80 |
|
81 |
```
|
82 |
Модель Среднее отклонение числового ответа Доля верных ответов
|
83 |
в сравнении с верным
|
84 |
+
sberbank-ai/rugpt3small_based_on_gpt2 8.03e+02% 0.057
|
85 |
+
sberbank-ai/rugpt3medium_based_on_gpt2 2.89e+02% 0.085
|
86 |
+
sberbank-ai/rugpt3large_based_on_gpt2 1.58e+02% 0.131
|
87 |
+
facebook/xglm-2.9B 8.13e+02% 0.224
|
88 |
```
|
89 |
|
90 |
## Генератор сэмплов
|