Datasets:

License:
eval_results / AIR-Bench_24.04 /ShortV3 /NoReranker /results_20240603071524-657b15437977c355bd73848dd174a7d4.json
hanhainebula's picture
Update evaluation results
db99bff
raw
history blame
44.7 kB
[
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "ndcg_at_1",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.17737
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.25027
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.21994
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.45086
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.3571
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "ndcg_at_3",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.1691
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.22455
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.19166
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.40758
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.33754
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "ndcg_at_5",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.16967
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.21452
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.18681
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.41504
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.33812
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "ndcg_at_10",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.18443
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.23091
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.20114
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.4409
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.35882
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "ndcg_at_50",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.23128
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.31582
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.26041
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.48121
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.4162
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "ndcg_at_100",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.24476
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.34479
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.27893
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.49129
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.43173
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "ndcg_at_1000",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.2818
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.39905
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.32104
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.51259
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.45846
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "map_at_1",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.05262
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.06
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.06443
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.24343
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.15036
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "map_at_3",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.09209
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.10333
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.10083
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.32139
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.22334
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "map_at_5",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.10852
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.12511
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.11776
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.34186
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.24893
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "map_at_10",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.1261
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.14907
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.13677
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.36032
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.2753
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "map_at_50",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.14363
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.18067
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.15875
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.3745
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.29792
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "map_at_100",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.14581
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.18601
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.16177
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.37598
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.30051
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "map_at_1000",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.14797
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.19034
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.16438
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.37714
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.3023
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "recall_at_1",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.05262
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.06
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.06443
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.24343
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.15036
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "recall_at_3",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.11867
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.12503
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.12272
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.37446
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.267
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "recall_at_5",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.15795
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.17053
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.15971
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.42618
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.32514
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "recall_at_10",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.21288
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.24442
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.21536
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.49415
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.39917
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "recall_at_50",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.34001
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.4597
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.375
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.62374
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.56305
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "recall_at_100",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.39053
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.56132
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.44376
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.6673
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.62518
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "recall_at_1000",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.58089
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.8159
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.66188
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.78956
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.76861
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "precision_at_1",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.17737
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.25027
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.21994
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.45086
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.3571
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "precision_at_3",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.14496
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.20366
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.16177
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.25948
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.25569
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "precision_at_5",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.12139
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.17449
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.13596
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.18535
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.20095
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "precision_at_10",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.08869
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.1318
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.09978
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.114
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.13624
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "precision_at_50",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.03078
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.05238
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.03661
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.03092
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.04202
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "precision_at_100",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.0179
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.03207
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.02175
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.0169
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.02361
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "precision_at_1000",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.00265
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.00459
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.0031
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.00209
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.00292
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "mrr_at_1",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.17737
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.25027
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.21994
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.45086
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.3571
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "mrr_at_3",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.23453
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.32346
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.27904
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.52531
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.44118
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "mrr_at_5",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.24847
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.34246
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.29319
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.53743
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.45561
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "mrr_at_10",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.25783
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.35718
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.30349
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.54471
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.46367
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "mrr_at_50",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.26386
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.36699
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.3114
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.5494
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.46968
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "mrr_at_100",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.26444
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.36783
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.31232
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.54975
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.47019
}
]
},
{
"config": {
"retrieval_model": "ShortV3",
"retrieval_model_link": null,
"reranking_model": "NoReranker",
"reranking_model_link": null,
"task": "qa",
"metric": "mrr_at_1000",
"timestamp": "2024-06-03T07:15:24Z",
"is_anonymous": true,
"revision": "657b15437977c355bd73848dd174a7d4"
},
"results": [
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.26513
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.36822
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.313
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.55005
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.47059
}
]
}
]