koziev ilya commited on
Commit
0b80851
1 Parent(s): 926ed28

new baseline benchmarks including facebook/xglm-2.9B

Browse files
Files changed (1) hide show
  1. README.md +5 -4
README.md CHANGED
@@ -76,14 +76,15 @@ task_ids:
76
 
77
  ## Метрики генеративных моделей
78
 
79
- После файнтюна (1 эпоха, lr=1e-5) на 90% датасета получаются такие метрики по тестовой части:
80
 
81
  ```
82
  Модель Среднее отклонение числового ответа Доля верных ответов
83
  в сравнении с верным
84
- sberbank-ai/rugpt3small_based_on_gpt2 5442% 9.2%
85
- sberbank-ai/rugpt3medium_based_on_gpt2 124% 14.4%
86
- sberbank-ai/rugpt3large_based_on_gpt2 68.4% 25.0%
 
87
  ```
88
 
89
  ## Генератор сэмплов
 
76
 
77
  ## Метрики генеративных моделей
78
 
79
+ После файнтюна (1 эпоха, lr=1e-5) на 90% датасета, получаются такие метрики на тестовой части:
80
 
81
  ```
82
  Модель Среднее отклонение числового ответа Доля верных ответов
83
  в сравнении с верным
84
+ sberbank-ai/rugpt3small_based_on_gpt2 8.03e+02% 0.057
85
+ sberbank-ai/rugpt3medium_based_on_gpt2 2.89e+02% 0.085
86
+ sberbank-ai/rugpt3large_based_on_gpt2 1.58e+02% 0.131
87
+ facebook/xglm-2.9B 8.13e+02% 0.224
88
  ```
89
 
90
  ## Генератор сэмплов