ai-bond/ru-alpaca-text

Это общие знания для духовного обогощения тренируемой модели:

1. data-silence[lenta.ru_2-extended] - subset lenta

14.31% of data after filtering.
Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449 | Количество overflow при ctx(2048): 184
Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449 | Количество overflow при ctx(4096): 11

2. data-silence[gazeta.ru-merged] - subset gazeta

33.03% of data after filtering.
Всего в train["input"] - input_ids: 45431 | Наибольшая длинна: 3455 | Количество overflow при ctx(2048): 6697
Всего в train["input"] - input_ids: 45431 | Наибольшая длинна: 3455 | Количество overflow при ctx(4096): 0

3. TopicNet[ICD-10] - subset health

100% of data after filtering.
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(2048): 574
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(4096): 235
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(8192): 66
Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(16384): 13

4. Den4ikAI[russian_cleared_wikipedia] - subset wiki

100% of data after filtering.
Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204 | Количество overflow при ctx(8192): 301
Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204 | Количество overflow при ctx(16384): 108