koziev ilya commited on
Commit
92fa6c6
1 Parent(s): cb92dc3

adding hash and reply_num fields in order to linking samples derived from same original text

Browse files
Files changed (2) hide show
  1. README.md +11 -1
  2. jokes_dialog_dataset.json +2 -2
README.md CHANGED
@@ -11,7 +11,17 @@ language:
11
 
12
  Датасет содержит результат парсинга анекдотов, наскрапленных с разных сайтов.
13
 
14
- Каждый сэмпл содержит два поля: контекст и диалоговую реплику. Контекст содержит как предшествующие реплики, так и прочий сопутствующий текст, так
 
 
 
 
15
  как он определяет общий сеттинг, необходимый для генерации реплики. Из реплики удалены маркеры косвенной речи.
16
 
 
 
 
 
 
 
17
  Один исходный текст может дать несколько сэмплов, если в нем было много реплик.
 
11
 
12
  Датасет содержит результат парсинга анекдотов, наскрапленных с разных сайтов.
13
 
14
+ ## Формат
15
+
16
+ Каждый сэмпл содержит четыре поля:
17
+
18
+ "context" - контекст диалога, включая все недиалоговые вставки. Обратите внимание, что контекст содержит как предшествующие реплики, так и прочий сопутствующий текст, так
19
  как он определяет общий сеттинг, необходимый для генерации реплики. Из реплики удалены маркеры косвенной речи.
20
 
21
+ "utterance" - диалоговая реплика.
22
+
23
+ "hash" - хэш-код исходного полного текста для связывания сэмплов.
24
+
25
+ "reply_num" - порядковый номер диалоговой реплики. Часто последняя реплика является "пайнчалайном", в ней сконцентрирована суть шутки.
26
+
27
  Один исходный текст может дать несколько сэмплов, если в нем было много реплик.
jokes_dialog_dataset.json CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:68c7c0c8e1a4dd084f13409794d1012e2968e5b48b4a2380a56e850155edb911
3
- size 50999301
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:e003b12402eaa5e48a377352e9c7d0eaf0f2f896835cea0ee6006ac1fafa26df
3
+ size 61084455