[
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "ndcg_at_1",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.38923
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.48379
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.50124
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.65469
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.55603
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.60047
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.45263
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.47256
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.73734
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.70411
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.53668
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.58942
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.52665
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "ndcg_at_3",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.35008
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.4578
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.49966
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.60539
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.48847
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.55275
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.40152
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.49559
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.64557
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.64094
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.48495
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.54337
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.51559
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "ndcg_at_5",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.35466
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.4621
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.51371
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.59122
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.46065
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.56163
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.39068
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.51229
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.65852
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.65706
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.49516
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.54699
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.52376
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "ndcg_at_10",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.37648
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.49877
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.5526
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.61264
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.48309
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.59888
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.42113
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.54026
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.69784
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.68699
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.53183
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.58426
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.55474
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "ndcg_at_50",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.41537
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.5673
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.60599
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.68788
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.58025
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.63872
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.48698
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.56989
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.73081
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.70897
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.57233
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.63867
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.60066
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "ndcg_at_100",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.41954
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.57334
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.60968
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.69343
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.59036
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.64085
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.49189
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.57384
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.73332
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.71089
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.57427
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.64237
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.60424
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "ndcg_at_1000",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.41954
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.57334
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.60968
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.69343
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.59036
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.64085
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.49189
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.57384
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.73332
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.71089
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.57427
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.64237
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.60424
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "map_at_1",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.16277
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.14783
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.22405
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.18015
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.11504
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.26987
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.1191
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.29279
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.38808
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.41082
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.22656
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.23003
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.25184
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "map_at_3",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.23885
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.26457
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.34824
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.33967
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.22738
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.42237
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.21114
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.41607
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.51819
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.54093
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.34447
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.36441
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.36988
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "map_at_5",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.27235
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.32428
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.40237
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.41892
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.28807
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.46839
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.25729
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.45073
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.56324
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.58068
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.39021
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.41985
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.41472
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "map_at_10",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.30341
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.38386
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.45988
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.50024
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.35459
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.50568
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.30488
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.48009
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.6013
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.60855
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.42926
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.47472
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.45505
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "map_at_50",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.32238
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.42159
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.49016
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.54772
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.40744
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.52445
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.33759
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.49378
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.61809
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.61953
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.44927
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.50553
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.47816
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "map_at_100",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.32306
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.42276
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.49085
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.54908
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.40971
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.52478
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.33855
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.49431
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.61855
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.61988
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.44959
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.50635
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.47888
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "map_at_1000",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.32306
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.42276
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.49085
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.54908
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.40971
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.52478
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.33855
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.49431
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.61855
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.61988
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.44959
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.50635
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.47888
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "recall_at_1",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.16277
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.14783
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.22405
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.18015
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.11504
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.26987
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.1191
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.29279
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.38808
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.41082
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.22656
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.23003
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.25184
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "recall_at_3",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.27468
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.31144
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.40231
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.37704
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.25925
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.47628
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.25018
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.4752
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.56749
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.58382
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.40091
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.41645
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.43583
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "recall_at_5",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.33918
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.41927
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.50104
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.49345
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.35733
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.5592
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.33656
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.5482
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.65425
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.66195
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.49013
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.51878
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.52375
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "recall_at_10",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.41687
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.55435
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.62937
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.64495
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.49873
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.66153
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.45328
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.62812
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.75466
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.7412
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.59788
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.64582
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.62555
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "recall_at_50",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.5252
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.73025
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.77156
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.83004
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.74039
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.77754
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.62652
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.72216
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.84694
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.8051
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.71345
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.78728
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.75121
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "recall_at_100",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.54346
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.7544
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.78779
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.85052
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.77814
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.78707
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.646
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.74318
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.85689
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.81307
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.72236
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.80187
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.76573
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "recall_at_1000",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.54346
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.7544
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.78779
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.85052
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.77814
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.78707
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.646
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.74318
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.85689
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.81307
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.72236
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.80187
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.76573
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "precision_at_1",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.38923
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.48379
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.50124
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.65469
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.55603
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.60047
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.45263
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.47256
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.73734
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.70411
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.53668
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.58942
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.52665
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "precision_at_3",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.26282
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.39815
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.37753
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.53062
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.45251
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.40949
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.35771
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.30936
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.42228
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.39452
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.36299
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.42602
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.36712
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "precision_at_5",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.20999
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.34225
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.31264
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.44966
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.38698
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.30814
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.3005
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.23028
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.31388
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.28743
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.28608
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.34248
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.2908
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "precision_at_10",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.14081
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.24213
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.22292
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.31711
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.28031
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.19315
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.21136
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.14322
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.19404
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.17209
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.18521
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.23321
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.19168
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "precision_at_50",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.03761
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.06652
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.05848
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.0853
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.08402
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.04708
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.05966
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.03436
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.04623
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.03889
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.0457
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.06037
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.04928
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "precision_at_100",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.01939
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.03424
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.02977
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.04368
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.04382
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.02381
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.0306
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.01753
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.02351
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.01972
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.02309
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.0308
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.02518
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "precision_at_1000",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.00194
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.00342
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.00298
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.00437
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.00438
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.00238
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.00306
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.00175
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.00235
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.00197
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.00231
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.00308
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.00252
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "mrr_at_1",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.38923
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.48379
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.50062
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.65469
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.55603
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.60047
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.45263
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.47192
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.73734
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.70411
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.53668
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.58942
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.52665
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "mrr_at_3",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.4467
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.58348
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.5887
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.72712
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.63901
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.6776
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.54497
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.5368
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.7971
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.7568
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.61689
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.67558
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.62312
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "mrr_at_5",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.45655
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.60302
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.60326
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.73771
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.65398
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.68616
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.56247
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.54721
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.80538
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.76477
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.62928
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.68871
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.63715
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "mrr_at_10",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.46194
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.61086
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61249
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.74343
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.66194
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.6924
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.57147
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.55281
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.80937
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.76946
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.63644
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.69508
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.64325
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "mrr_at_50",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.46546
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.61448
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.6154
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.74579
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.66597
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.69497
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.57513
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.55568
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.81014
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.77083
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.6387
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.6974
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.64643
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "mrr_at_100",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.46564
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.61467
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61555
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.74587
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.66612
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.69504
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.57525
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.55593
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.81018
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.77085
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.63878
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.69748
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.6465
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "qa",
"metric": "mrr_at_1000",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.46564
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.61467
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61555
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.74587
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.66612
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.69504
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.57525
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.55593
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.81018
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.77085
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.63878
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.69748
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.6465
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "ndcg_at_1",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.66185
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.62462
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.68935
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.72861
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.81522
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65774
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.70704
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.69188
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.71774
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.50546
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.55946
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.5
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.43027
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.54902
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.51807
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "ndcg_at_3",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.59658
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.5773
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.6282
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.65924
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.74933
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.61023
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.63721
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.62537
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.64756
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.48649
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.56307
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.51392
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.52195
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.52286
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62875
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "ndcg_at_5",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.58887
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.57061
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.61887
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.6571
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.74008
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.61335
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.66472
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.64554
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.65662
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.49811
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.60723
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.5648
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.5672
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.54632
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.66504
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "ndcg_at_10",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.63694
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.61624
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.66363
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.70587
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.78477
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65371
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.71658
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.69675
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.70608
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.55992
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.66191
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.62147
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.60661
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.59264
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.67801
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "ndcg_at_50",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.71344
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.69974
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.72746
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.77158
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.83882
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.6966
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.75738
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.74339
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.74882
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.62901
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.71195
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.66417
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.64039
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.648
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.70192
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "ndcg_at_100",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.71675
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.70437
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.72953
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.77532
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.84071
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.70079
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.75971
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.74729
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.74988
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.63896
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.71609
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.66651
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.65017
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.65331
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.7065
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "ndcg_at_1000",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.71675
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.70437
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.72953
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.77532
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.84071
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.70079
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.75971
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.74729
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.74988
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.63896
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.71609
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.66651
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.65017
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.65331
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.7065
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "map_at_1",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.22033
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.17877
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.21518
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.2435
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.29873
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.29501
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.33267
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.34024
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.37773
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.22165
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.31308
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.31728
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.34619
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.26553
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.51807
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "map_at_3",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.39551
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.34538
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.38875
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.45202
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.51892
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.46263
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.50561
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.50378
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.53115
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.35537
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.46385
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.43944
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.47156
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.41128
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.60174
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "map_at_5",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.46015
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.42387
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.47014
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.53159
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.60403
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.52236
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.56599
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.55325
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.57279
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.40243
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.51949
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.4868
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.50281
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.45745
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62182
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "map_at_10",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.52641
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.5027
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.55614
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.60251
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.68374
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.57262
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.61169
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.59901
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.61246
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.4548
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.55931
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.52384
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.52497
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.4971
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62718
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "map_at_50",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.56701
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.55132
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.59281
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.64096
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.71997
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.59229
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.63207
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.6196
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.63247
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.48652
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.58213
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.54052
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.53547
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.52165
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63273
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "map_at_100",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.56763
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.55228
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.59326
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.64172
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.72046
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.59294
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.63245
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.62037
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.63269
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.48817
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.58279
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.54082
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.53653
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.52232
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63314
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "map_at_1000",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.56763
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.55228
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.59326
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.64172
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.72046
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.59294
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.63245
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.62037
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.63269
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.48817
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.58279
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.54082
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.53653
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.52232
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63314
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "recall_at_1",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.22033
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.17877
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.21518
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.2435
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.29873
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.29501
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.33267
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.34024
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.37773
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.22165
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.31308
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.31728
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.34619
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.26553
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.51807
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "recall_at_3",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.43965
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.38935
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.42648
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.48896
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.55767
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.50874
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.57222
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.56194
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.57682
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.41086
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.54629
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.52429
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.57938
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.47828
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.70683
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "recall_at_5",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.54943
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.51157
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.54846
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.61247
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.68365
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.59906
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.68732
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.66004
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.65913
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.49934
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.6718
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.64973
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.67977
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.57323
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.79518
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "recall_at_10",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.69306
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.67293
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.71581
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.7584
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.8293
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.70522
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.81164
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.7793
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.77201
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.6568
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.80125
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.78995
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.78437
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.69017
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.83534
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "recall_at_50",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.91275
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.89679
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.89111
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.93932
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.96515
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.83327
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.9326
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.92278
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.89957
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.86255
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.9591
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.93957
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.91222
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.86766
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.93976
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "recall_at_100",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.92813
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.91717
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.89949
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.95626
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.97235
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.85348
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.94423
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.94029
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.90369
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.90892
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.97991
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.95245
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.9686
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.89631
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.96787
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "recall_at_1000",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.92813
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.91717
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.89949
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.95626
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.97235
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.85348
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.94423
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.94029
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.90369
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.90892
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.97991
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.95245
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.9686
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.89631
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.96787
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "precision_at_1",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.66185
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.62462
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.68935
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.72861
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.81522
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65774
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.70704
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.69188
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.71774
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.50546
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.55946
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.5
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.43027
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.54902
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.51807
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "precision_at_3",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.50193
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.50651
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.53353
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.56146
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.61232
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.45734
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.4507
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.43791
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.4328
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.37432
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.36847
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.30879
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.26805
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.37535
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.23561
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "precision_at_5",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.39711
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.42342
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.4432
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.44602
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.49022
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.3506
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.34704
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.32717
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.31667
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.29781
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.29081
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.24233
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.19407
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.28571
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.15904
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "precision_at_10",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.26734
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.29489
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.31065
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.29351
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.32283
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.22292
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.2169
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.20616
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.19919
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.2041
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.18378
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.15491
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.11454
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.18263
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.08353
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "precision_at_50",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.07052
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.07946
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.07757
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.07345
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.07793
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.05429
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.05172
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.05014
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.04844
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.05525
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.04573
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.03712
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.02706
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.0465
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.0188
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "precision_at_100",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.03569
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.04036
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.03911
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.03717
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.03927
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.02768
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.02611
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.02555
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.02438
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.0288
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.0233
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.01877
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.01424
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.02373
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.00968
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "precision_at_1000",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.00357
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.00404
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.00391
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.00372
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.00393
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.00277
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.00261
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.00255
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.00244
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.00288
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.00233
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.00188
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.00142
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.00237
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.00097
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "mrr_at_1",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.66185
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.62462
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.68935
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.72861
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.81522
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.66071
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.70704
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.69188
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.71774
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.50546
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.55946
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.5
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.43027
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.54902
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.51807
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "mrr_at_3",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.73025
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.70571
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.75394
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.79154
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.87138
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.7252
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.78545
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.76097
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.77823
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.59927
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.66351
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.58998
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.55143
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.63305
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.60174
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "mrr_at_5",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.7434
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.71727
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.76267
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.79907
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.88062
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.72847
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.79502
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.77316
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.7879
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.61416
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.68338
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.61375
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.57176
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.6458
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62182
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "mrr_at_10",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.7478
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.72298
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.76858
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.80464
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.88182
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.73127
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.799
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.77695
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.79391
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.62388
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.69139
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.62443
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.58051
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.65108
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62718
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "mrr_at_50",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.7515
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.72617
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.7716
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.80735
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.88208
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.73441
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.80094
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.77982
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.79565
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.62865
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.69421
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.62902
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.58571
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.65585
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63273
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "mrr_at_100",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.75161
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.72629
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.77165
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.80745
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.88208
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.73459
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.80103
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.77995
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.79565
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.62905
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.69436
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.62909
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.58637
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.65615
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63314
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-base-en",
"reranking_model_link": "https://jina.ai/reranker/",
"task": "long-doc",
"metric": "mrr_at_1000",
"timestamp": "2024-05-21T13:37:35Z",
"is_anonymous": false,
"revision": "11805021bca5629848b3156143308e37"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.75161
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.72629
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.77165
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.80745
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.88208
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.73459
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.80103
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.77995
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.79565
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.62905
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.69436
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.62909
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.58637
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.65615
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63314
}
]
}
]