Datasets:

License:
eval_results / AIR-Bench_24.04 /bge-m3 /bge-reranker-v2-m3 /results_20240514030934-3fc82c8b49ec8b8d89d6268dc253cc1c.json
hanhainebula's picture
Update evaluation results
2bd9fc9
raw
history blame
211 kB
[
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_1",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.80672
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.43309
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.62876
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.64746
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.75344
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.68356
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.6075
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.54737
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.53691
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.80703
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.75217
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.56153
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.69578
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.65261
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_3",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.73469
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.39616
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.57135
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61543
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.70528
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.60823
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.57463
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.47483
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.55444
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.71343
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.69091
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.51444
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.63613
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.61703
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_5",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.74243
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.39698
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.56219
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61397
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.68554
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.57103
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.58789
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.45661
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.57056
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.72466
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.70135
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.52163
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.62963
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.61338
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_10",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.78656
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.41898
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.59074
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.6378
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.70359
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.58936
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.62048
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.48344
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.59164
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.75427
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.72334
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.5569
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.65905
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.63667
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_50",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.82163
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.44802
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.63679
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.67527
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.75149
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.657
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.65271
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.53405
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.61441
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.7766
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.73968
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.58985
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.69539
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.66704
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_100",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.82258
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.45066
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.63972
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.67814
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.7534
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.66122
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.65398
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.53698
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.61567
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.77734
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74066
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.59138
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.69757
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.66895
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_1000",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.82258
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.45066
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.63972
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.67814
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.7534
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.66122
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.65398
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.53698
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.61567
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.77734
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74066
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.59138
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.69757
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.66895
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_1",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.33844
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.18373
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.19271
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.2877
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.21011
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.14272
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.26698
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.14532
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.33436
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.42203
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.43797
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.23628
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.26948
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.31467
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_3",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.54813
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.27819
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.34081
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.43922
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.40419
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.29609
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.43452
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.26085
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.47191
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.5799
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.58847
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.36792
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.43755
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.45607
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_5",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.6327
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.31464
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.41378
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.50028
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.50265
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.37762
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.48853
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.31439
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.51081
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.6338
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.62935
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.41732
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.50161
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.50579
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_10",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.7006
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.34936
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.48122
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.5565
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.60235
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.46091
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.5258
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.3677
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.5371
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.66988
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.654
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.45783
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.56063
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.54778
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_50",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.72229
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.36482
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.50961
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.58007
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.63797
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.50459
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.54225
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.39536
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.54858
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.68239
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.66217
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.47414
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.58339
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.56523
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_100",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.72249
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.36522
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.5102
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.58068
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.63844
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.50562
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.54247
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.39594
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.54873
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.68254
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.66235
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.47438
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.58385
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.56563
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_1000",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.72249
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.36522
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.5102
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.58068
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.63844
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.50562
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.54247
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.39594
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.54873
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.68254
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.66235
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.47438
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.58385
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.56563
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_1",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.33844
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.18373
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.19271
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.2877
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.21011
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.14272
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.26698
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.14532
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.33436
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.42203
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.43797
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.23628
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.26948
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.31467
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_3",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.58722
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.31268
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.37661
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.47693
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.43651
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.3269
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.49589
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.29615
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.52603
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.62034
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.62745
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.42197
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.48034
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.50547
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_5",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.71311
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.37505
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.49067
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.57006
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.56576
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.44412
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.59374
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.38806
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.59974
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.71271
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.69838
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.51267
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.58053
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.58671
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_10",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.84668
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.45205
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.62425
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.67885
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.72781
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.59864
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.6886
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.50274
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.66414
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.7924
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.75989
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.61998
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.69852
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.67824
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_50",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.94477
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.53141
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.74168
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.77644
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.84324
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.76149
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.78118
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.63449
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.73674
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.85382
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.80877
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.71478
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.79269
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.75786
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_100",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.94907
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.54393
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.75401
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.78843
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.85061
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.77778
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.787
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.64606
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.74381
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.85694
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.8129
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.72196
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.80204
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.76576
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_1000",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.94907
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.54393
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.75401
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.78843
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.85061
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.77778
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.787
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.64606
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.74381
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.85694
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.8129
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.72196
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.80204
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.76576
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_1",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.80672
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.43309
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.62876
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.64746
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.75344
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.68356
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.6075
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.54737
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.53691
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.80703
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.75217
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.56153
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.69578
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.65261
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_3",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.56718
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.29798
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.4946
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.46365
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.62294
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.5651
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.4339
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.42161
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.34259
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.47707
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.43273
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.3911
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.50228
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.44132
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_5",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.44868
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.23409
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.41143
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.36791
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.5266
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.47727
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.3324
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.34626
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.25413
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.35295
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.31048
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.30491
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.39608
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.33837
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_10",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.28464
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.15569
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.27784
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.24356
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.36577
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.33474
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.20375
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.23662
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.15224
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.21001
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.17881
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.19393
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.2596
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.21312
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_50",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.06444
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.03819
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.06755
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.05867
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.0867
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.08616
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.04731
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.06025
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.03485
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.0468
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.03917
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.0458
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.06096
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.04979
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_100",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.03234
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.01941
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.03423
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.02978
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.04369
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.04382
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.02381
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.0306
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.01753
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.02351
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.01972
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.02308
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.0308
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.02518
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_1000",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.00323
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.00194
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.00342
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.00298
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.00437
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.00438
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.00238
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.00306
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.00175
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.00235
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.00197
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.00231
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.00308
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.00252
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_1",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.80672
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.43365
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.62876
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.64746
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.75344
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.6841
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.6075
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.54737
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.53691
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.80703
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.75217
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.56153
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.69578
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.65261
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_3",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.85178
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.48714
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.70075
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.70704
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.80867
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.75196
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.69078
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.6265
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.59695
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.8518
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.79589
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.64125
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.75847
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.72505
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_5",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.85599
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.49608
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.71359
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.71615
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.81531
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.76175
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.70083
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.64018
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.60474
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.85716
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.80229
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.65168
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.7667
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.73273
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_10",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.85882
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.50125
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.71942
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.72174
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.81881
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.76691
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.70611
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.64638
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.6084
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.85903
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.80508
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.65815
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.77104
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.73718
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_50",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.8604
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.50367
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.72115
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.72323
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.81997
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.76851
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.70781
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.64913
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.61044
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.85959
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.80603
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.66011
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.77243
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.73867
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_100",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.86042
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.50376
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.72122
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.72329
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.82001
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.76856
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.70785
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.64921
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.61051
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.8596
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.80604
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.66017
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.77247
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.7387
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_1000",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.86042
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.50376
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.72122
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.72329
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.82001
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.76856
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.70785
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.64921
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.61051
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.8596
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.80604
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.66017
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.77247
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.7387
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_1",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.75434
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.72973
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.76036
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.80531
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86413
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.66369
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.69014
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.7423
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.72043
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.62022
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62973
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.52147
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.46588
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.58543
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.50602
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_3",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.69859
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.68162
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.69684
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.73296
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.78357
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.61975
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.66416
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.65274
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.67933
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.57419
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62188
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.56625
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.52633
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.5629
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.64056
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_5",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.68995
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.67153
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.69661
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.7399
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.77058
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.62933
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.6797
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.68006
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.69536
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.59068
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.67141
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.60294
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.57436
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.58401
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.6658
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_10",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.73306
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.72076
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.73431
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.78792
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.81657
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.66254
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.73559
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.72633
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.73884
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.63784
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.7205
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.65814
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.61676
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.63114
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.68046
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_50",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.78084
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.77117
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.77618
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.82738
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86157
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.70436
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.77356
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.77072
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.76903
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.69641
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.75759
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.69461
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.65392
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.67875
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.70834
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_100",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.78304
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.77311
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.77744
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.82907
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86257
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.70839
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.77486
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.77217
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.77065
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.70067
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.75966
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.69643
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.66079
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.68219
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.71098
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_1000",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.78304
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.77311
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.77744
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.82907
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86257
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.70839
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.77486
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.77217
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.77065
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.70067
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.75966
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.69643
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.66079
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.68219
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.71098
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_1",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.25245
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.22074
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.23341
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.28242
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.3134
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.29337
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.34492
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.35974
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.38297
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.26461
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.35497
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.34676
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.37191
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.27635
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.50602
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_3",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.4768
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.42743
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.44263
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.52141
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.54652
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.47011
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.53222
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.52938
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.55558
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.43112
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.52359
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.4847
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.48034
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.44533
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.6091
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_5",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.56108
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.5225
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.54556
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.6145
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.63612
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.53641
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.5841
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.58875
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.60856
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.48992
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.58665
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.52534
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.5161
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.49263
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62336
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_10",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.63185
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.61963
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.63459
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.69185
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.72197
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.58
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.63543
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.63167
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.64675
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.53862
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62914
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.56391
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.53754
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.53428
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62963
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_50",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.66181
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.65348
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.66276
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.71794
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.75317
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.60179
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.65541
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.65232
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.66226
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.56636
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.64572
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.57776
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.5496
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.55626
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63662
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_100",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.66221
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.6538
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.66299
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.71832
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.75343
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.60243
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.65567
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.65254
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.66252
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.56722
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.6461
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.578
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.55031
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.55667
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63686
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_1000",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.66221
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.6538
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.66299
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.71832
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.75343
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.60243
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.65567
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.65254
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.66252
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.56722
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.6461
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.578
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.55031
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.55667
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63686
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_1",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.25245
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.22074
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.23341
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.28242
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.3134
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.29337
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.34492
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.35974
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.38297
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.26461
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.35497
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.34676
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.37191
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.27635
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.50602
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_3",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.52312
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.46485
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.47829
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.55889
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.57698
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.5108
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.60697
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.58176
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.60966
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.48261
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.59737
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.58896
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.57221
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.51293
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.73092
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_5",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.64442
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.59447
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.62941
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.69915
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.70432
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.61811
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.70161
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.69209
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.70729
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.59196
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.73527
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.68013
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.6726
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.61041
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.79116
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_10",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.78875
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.77515
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.78617
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.84681
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.85656
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.71493
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.82953
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.79862
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.80911
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.71109
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.8508
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.81265
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.78882
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.72684
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.83534
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_50",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.91732
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.90806
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.89352
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.94897
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.96861
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.83326
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.9395
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.93249
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.89451
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.89029
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.97108
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.94274
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.92854
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.87763
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.95181
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_100",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.92765
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.91717
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.89912
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.95626
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.97235
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.85298
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.94563
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.94029
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.90235
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.90892
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.97991
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.95245
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.9686
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.89631
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.96787
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_1000",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.92765
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.91717
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.89912
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.95626
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.97235
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.85298
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.94563
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.94029
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.90235
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.90892
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.97991
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.95245
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.9686
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.89631
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.96787
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_1",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.75434
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.72973
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.76036
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.80531
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86413
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.66369
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.69014
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.7423
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.72043
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.62022
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62973
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.52147
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.46588
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.58543
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.50602
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_3",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.59249
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.6026
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.59566
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.61652
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.6413
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.47024
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.47606
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.45191
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.46416
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.4408
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.40811
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.33538
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.25816
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.40523
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.24364
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_5",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.46821
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.4997
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.49941
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.49676
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.51141
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.36905
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.34986
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.34398
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.34624
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.34699
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.32162
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.25031
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.19228
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.30308
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.15823
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_10",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.30087
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.34144
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.33609
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.32094
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.33614
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.22619
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.22282
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.21204
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.20914
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.22322
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.19757
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.1592
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.11395
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.19104
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.08353
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_50",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.07081
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.08024
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.07775
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.07386
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.07821
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.0544
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.05194
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.05081
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.04828
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.05645
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.046
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.03718
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.02754
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.04683
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.01904
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_100",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.03566
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.04036
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.03908
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.03717
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.03927
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.02765
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.02614
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.02555
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.02433
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.0288
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.0233
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.01877
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.01424
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.02373
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.00968
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_1000",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.00357
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.00404
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.00391
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.00372
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.00393
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.00276
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.00261
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.00255
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.00243
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.00288
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.00233
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.00188
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.00142
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.00237
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.00097
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_1",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.75434
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.72973
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.76331
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.80531
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86413
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.66369
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.69014
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.7395
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.72312
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.62022
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62973
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.52147
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.46588
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.58543
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.50602
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_3",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.81647
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.7973
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.81706
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.85595
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.90534
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.72569
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.78685
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.80112
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.80645
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.70128
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.71712
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.64366
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.56231
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.67787
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.6091
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_5",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.82341
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.8039
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.82475
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.86657
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.90969
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.73462
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.79629
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.81162
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.81371
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.71412
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.7336
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.65593
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.58145
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.68992
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62336
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_10",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.8276
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.8096
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.82857
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.86821
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.91114
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.7377
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.79932
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.81424
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.81646
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.71828
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.7376
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.66382
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.59458
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.69434
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62963
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_50",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.82915
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.81029
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.83014
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.86886
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.91177
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.74055
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.80061
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.81698
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.81743
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.7217
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.74071
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.66732
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.59941
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.69804
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63662
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_100",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.82925
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.81032
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.83018
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.86886
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.91177
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.74073
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.80064
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.81705
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.81747
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.72183
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.74075
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.66735
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.59997
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.69824
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63686
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_1000",
"timestamp": "2024-05-14T03:09:34Z",
"is_anonymous": false,
"revision": "3fc82c8b49ec8b8d89d6268dc253cc1c"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.82925
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.81032
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.83018
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.86886
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.91177
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.74073
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.80064
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.81705
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.81747
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.72183
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.74075
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.66735
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.59997
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.69824
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63686
}
]
}
]