Hugging Face's logo

BenjaminKUL
/
new_model

Token Classification
Transformers
PyTorch
TensorBoard
lilt
Generated from Trainer
Inference Endpoints
Model card Files Metrics Community
1
BenjaminKUL commited on
Commit
eaed6cc
•
1 Parent(s): 6ce5f91

End of training

Browse files
Files changed (4) hide show
  1. README.md +22 -22
  2. logs/events.out.tfevents.1696333552.Benjamins-MacBook-Pro.local.72815.0 +2 -2
  3. preprocessor_config.json +1 -1
  4. pytorch_model.bin +1 -1
README.md CHANGED
@@ -14,14 +14,14 @@ should probably proofread and complete it, then remove this comment. -->
14
 
15
  This model is a fine-tuned version of [SCUT-DLVCLab/lilt-roberta-en-base](https://huggingface.co/SCUT-DLVCLab/lilt-roberta-en-base) on the None dataset.
16
  It achieves the following results on the evaluation set:
17
- - Loss: 0.0582
18
- - Answer: {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 8}
19
- - Header: {'precision': 0.05263157894736842, 'recall': 0.07692307692307693, 'f1': 0.0625, 'number': 13}
20
- - Question: {'precision': 0.1, 'recall': 0.15384615384615385, 'f1': 0.12121212121212123, 'number': 13}
21
- - Overall Precision: 0.0682
22
- - Overall Recall: 0.0882
23
- - Overall F1: 0.0769
24
- - Overall Accuracy: 0.6434
25
 
26
  ## Model description
27
 
@@ -50,20 +50,20 @@ The following hyperparameters were used during training:
50
 
51
  ### Training results
52
 
53
- | Training Loss | Epoch | Step | Validation Loss | Answer | Header | Question | Overall Precision | Overall Recall | Overall F1 | Overall Accuracy |
54
- |:-------------:|:-----:|:----:|:---------------:|:-------------------------------------------------------------------------:|:-----------------------------------------------------------------------------------------------------------:|:----------------------------------------------------------------------------------------------------------:|:-----------------:|:--------------:|:----------:|:----------------:|
55
- | 0.1677 | 3.08 | 200 | 0.0239 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 8} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 13} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 13} | 0.0 | 0.0 | 0.0 | 0.7295 |
56
- | 0.0578 | 6.15 | 400 | 0.0251 | {'precision': 0.4, 'recall': 0.25, 'f1': 0.3076923076923077, 'number': 8} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 13} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 13} | 0.1333 | 0.0588 | 0.0816 | 0.7295 |
57
- | 0.0275 | 9.23 | 600 | 0.0291 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 8} | {'precision': 0.05555555555555555, 'recall': 0.07692307692307693, 'f1': 0.06451612903225808, 'number': 13} | {'precision': 0.05263157894736842, 'recall': 0.07692307692307693, 'f1': 0.0625, 'number': 13} | 0.0526 | 0.0588 | 0.0556 | 0.7008 |
58
- | 0.0124 | 12.31 | 800 | 0.0401 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 8} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 13} | {'precision': 0.0625, 'recall': 0.07692307692307693, 'f1': 0.06896551724137931, 'number': 13} | 0.0303 | 0.0294 | 0.0299 | 0.6352 |
59
- | 0.0086 | 15.38 | 1000 | 0.0416 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 8} | {'precision': 0.05263157894736842, 'recall': 0.07692307692307693, 'f1': 0.0625, 'number': 13} | {'precision': 0.05263157894736842, 'recall': 0.07692307692307693, 'f1': 0.0625, 'number': 13} | 0.0513 | 0.0588 | 0.0548 | 0.6311 |
60
- | 0.0045 | 18.46 | 1200 | 0.0447 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 8} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 13} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 13} | 0.0 | 0.0 | 0.0 | 0.6639 |
61
- | 0.0027 | 21.54 | 1400 | 0.0467 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 8} | {'precision': 0.05, 'recall': 0.07692307692307693, 'f1': 0.060606060606060615, 'number': 13} | {'precision': 0.09523809523809523, 'recall': 0.15384615384615385, 'f1': 0.11764705882352941, 'number': 13} | 0.0667 | 0.0882 | 0.0759 | 0.6639 |
62
- | 0.0013 | 24.62 | 1600 | 0.0494 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 8} | {'precision': 0.045454545454545456, 'recall': 0.07692307692307693, 'f1': 0.05714285714285715, 'number': 13} | {'precision': 0.08695652173913043, 'recall': 0.15384615384615385, 'f1': 0.1111111111111111, 'number': 13} | 0.0612 | 0.0882 | 0.0723 | 0.6434 |
63
- | 0.0009 | 27.69 | 1800 | 0.0559 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 8} | {'precision': 0.045454545454545456, 'recall': 0.07692307692307693, 'f1': 0.05714285714285715, 'number': 13} | {'precision': 0.08695652173913043, 'recall': 0.15384615384615385, 'f1': 0.1111111111111111, 'number': 13} | 0.06 | 0.0882 | 0.0714 | 0.6475 |
64
- | 0.0006 | 30.77 | 2000 | 0.0522 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 8} | {'precision': 0.0625, 'recall': 0.07692307692307693, 'f1': 0.06896551724137931, 'number': 13} | {'precision': 0.05555555555555555, 'recall': 0.07692307692307693, 'f1': 0.06451612903225808, 'number': 13} | 0.0526 | 0.0588 | 0.0556 | 0.6393 |
65
- | 0.0004 | 33.85 | 2200 | 0.0557 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 8} | {'precision': 0.05263157894736842, 'recall': 0.07692307692307693, 'f1': 0.0625, 'number': 13} | {'precision': 0.1, 'recall': 0.15384615384615385, 'f1': 0.12121212121212123, 'number': 13} | 0.0682 | 0.0882 | 0.0769 | 0.6516 |
66
- | 0.0005 | 36.92 | 2400 | 0.0582 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 8} | {'precision': 0.05263157894736842, 'recall': 0.07692307692307693, 'f1': 0.0625, 'number': 13} | {'precision': 0.1, 'recall': 0.15384615384615385, 'f1': 0.12121212121212123, 'number': 13} | 0.0682 | 0.0882 | 0.0769 | 0.6434 |
67
 
68
 
69
  ### Framework versions
 
14
 
15
  This model is a fine-tuned version of [SCUT-DLVCLab/lilt-roberta-en-base](https://huggingface.co/SCUT-DLVCLab/lilt-roberta-en-base) on the None dataset.
16
  It achieves the following results on the evaluation set:
17
+ - Loss: 0.0200
18
+ - Answer: {'precision': 0.16666666666666666, 'recall': 0.16666666666666666, 'f1': 0.16666666666666666, 'number': 6}
19
+ - Header: {'precision': 0.1111111111111111, 'recall': 0.2, 'f1': 0.14285714285714285, 'number': 10}
20
+ - Question: {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 9}
21
+ - Overall Precision: 0.0769
22
+ - Overall Recall: 0.12
23
+ - Overall F1: 0.0938
24
+ - Overall Accuracy: 0.7246
25
 
26
  ## Model description
27
 
 
50
 
51
  ### Training results
52
 
53
+ | Training Loss | Epoch | Step | Validation Loss | Answer | Header | Question | Overall Precision | Overall Recall | Overall F1 | Overall Accuracy |
54
+ |:-------------:|:-----:|:----:|:---------------:|:---------------------------------------------------------------------------------------------------------:|:------------------------------------------------------------------------------------------:|:---------------------------------------------------------------------------------------------------------:|:-----------------:|:--------------:|:----------:|:----------------:|
55
+ | 0.1674 | 3.08 | 200 | 0.0152 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 6} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 10} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 9} | 0.0 | 0.0 | 0.0 | 0.6087 |
56
+ | 0.0579 | 6.15 | 400 | 0.0141 | {'precision': 0.2222222222222222, 'recall': 0.3333333333333333, 'f1': 0.26666666666666666, 'number': 6} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 10} | {'precision': 0.08333333333333333, 'recall': 0.1111111111111111, 'f1': 0.09523809523809525, 'number': 9} | 0.1071 | 0.12 | 0.1132 | 0.6522 |
57
+ | 0.0271 | 9.23 | 600 | 0.0121 | {'precision': 0.3333333333333333, 'recall': 0.16666666666666666, 'f1': 0.2222222222222222, 'number': 6} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 10} | {'precision': 0.07142857142857142, 'recall': 0.1111111111111111, 'f1': 0.08695652173913043, 'number': 9} | 0.0645 | 0.08 | 0.0714 | 0.6957 |
58
+ | 0.0122 | 12.31 | 800 | 0.0115 | {'precision': 0.16666666666666666, 'recall': 0.16666666666666666, 'f1': 0.16666666666666666, 'number': 6} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 10} | {'precision': 0.06666666666666667, 'recall': 0.1111111111111111, 'f1': 0.08333333333333334, 'number': 9} | 0.0513 | 0.08 | 0.0625 | 0.7391 |
59
+ | 0.0073 | 15.38 | 1000 | 0.0224 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 6} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 10} | {'precision': 0.1111111111111111, 'recall': 0.1111111111111111, 'f1': 0.1111111111111111, 'number': 9} | 0.0526 | 0.04 | 0.0455 | 0.6739 |
60
+ | 0.0044 | 18.46 | 1200 | 0.0165 | {'precision': 0.25, 'recall': 0.16666666666666666, 'f1': 0.2, 'number': 6} | {'precision': 0.14285714285714285, 'recall': 0.2, 'f1': 0.16666666666666666, 'number': 10} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 9} | 0.1 | 0.12 | 0.1091 | 0.7246 |
61
+ | 0.0024 | 21.54 | 1400 | 0.0170 | {'precision': 0.2, 'recall': 0.16666666666666666, 'f1': 0.1818181818181818, 'number': 6} | {'precision': 0.1111111111111111, 'recall': 0.2, 'f1': 0.14285714285714285, 'number': 10} | {'precision': 0.058823529411764705, 'recall': 0.1111111111111111, 'f1': 0.07692307692307691, 'number': 9} | 0.1 | 0.16 | 0.1231 | 0.7319 |
62
+ | 0.001 | 24.62 | 1600 | 0.0190 | {'precision': 0.4, 'recall': 0.3333333333333333, 'f1': 0.3636363636363636, 'number': 6} | {'precision': 0.13333333333333333, 'recall': 0.2, 'f1': 0.16, 'number': 10} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 9} | 0.1212 | 0.16 | 0.1379 | 0.7536 |
63
+ | 0.0009 | 27.69 | 1800 | 0.0203 | {'precision': 0.16666666666666666, 'recall': 0.16666666666666666, 'f1': 0.16666666666666666, 'number': 6} | {'precision': 0.16666666666666666, 'recall': 0.3, 'f1': 0.21428571428571427, 'number': 10} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 9} | 0.1026 | 0.16 | 0.125 | 0.7101 |
64
+ | 0.0006 | 30.77 | 2000 | 0.0210 | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 6} | {'precision': 0.05555555555555555, 'recall': 0.1, 'f1': 0.07142857142857142, 'number': 10} | {'precision': 0.0625, 'recall': 0.1111111111111111, 'f1': 0.08, 'number': 9} | 0.0526 | 0.08 | 0.0635 | 0.7174 |
65
+ | 0.0005 | 33.85 | 2200 | 0.0194 | {'precision': 0.16666666666666666, 'recall': 0.16666666666666666, 'f1': 0.16666666666666666, 'number': 6} | {'precision': 0.1111111111111111, 'recall': 0.2, 'f1': 0.14285714285714285, 'number': 10} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 9} | 0.0769 | 0.12 | 0.0938 | 0.7174 |
66
+ | 0.0003 | 36.92 | 2400 | 0.0200 | {'precision': 0.16666666666666666, 'recall': 0.16666666666666666, 'f1': 0.16666666666666666, 'number': 6} | {'precision': 0.1111111111111111, 'recall': 0.2, 'f1': 0.14285714285714285, 'number': 10} | {'precision': 0.0, 'recall': 0.0, 'f1': 0.0, 'number': 9} | 0.0769 | 0.12 | 0.0938 | 0.7246 |
67
 
68
 
69
  ### Framework versions
logs/events.out.tfevents.1696333552.Benjamins-MacBook-Pro.local.72815.0 CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:cd3d726663367f1546027c27234e7962e67216fba8e3fd5ff0847e58a2e47c0d
3
- size 11641
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4b59aa9c4a34273bdb4748173add9115dd0884da07ac868580b885f9937ca586
3
+ size 12656
preprocessor_config.json CHANGED
@@ -8,7 +8,7 @@
8
  0.5,
9
  0.5
10
  ],
11
- "image_processor_type": "LayoutLMv3FeatureExtractor",
12
  "image_std": [
13
  0.5,
14
  0.5,
 
8
  0.5,
9
  0.5
10
  ],
11
+ "image_processor_type": "LayoutLMv3ImageProcessor",
12
  "image_std": [
13
  0.5,
14
  0.5,
pytorch_model.bin CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:17be658b49d7e2ef4a2c767733a1448ebceef01c2328ed94e9f28875d9d513d3
3
  size 520816014
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4b5f0e13608b7b567ad4ddcdaa7c158e802134610776fdaa6812188f3d7904b1
3
  size 520816014