Datasets:

License:
eval_results / AIR-Bench_24.04 /bge-m3 /jina-reranker-v1-turbo-en /results_20240514031146-97671a9fe67a86999677b0828f4ed48a.json
hanhainebula's picture
Update evaluation results
a683bb5
raw
history blame
212 kB
[
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "ndcg_at_1",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.27258
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.30483
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.20271
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.48575
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.59171
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.29456
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.50264
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.23102
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.44101
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.46814
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.67748
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.48527
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.28105
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.50849
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "ndcg_at_3",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.26173
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.29074
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.19811
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.47734
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.54722
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.26074
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.47344
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.21367
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.4602
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.44149
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.61787
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.44327
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.28907
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.48729
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "ndcg_at_5",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.27351
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.29763
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.21139
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.49032
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.53439
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.25057
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.48706
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.21443
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.4794
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.46242
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.63375
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.44925
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.3055
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.49602
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "ndcg_at_10",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.32258
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.32412
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.248
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.52662
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.55984
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.27695
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.53016
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.24372
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.50811
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.50511
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.66338
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.48882
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.34738
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.53107
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "ndcg_at_50",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.44728
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.37064
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.35973
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.58708
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.64722
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.40684
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.58126
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.33989
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.54477
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.56966
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.69142
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.53844
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.44421
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.58214
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "ndcg_at_100",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.48201
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.37718
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.39404
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.59292
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.65602
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.44538
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.58596
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.3658
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.54994
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.58345
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.6941
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.54217
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.46645
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.5873
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "ndcg_at_1000",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.48201
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.37718
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.39404
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.59292
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.65602
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.44538
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.58596
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.3658
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.54994
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.58345
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.6941
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.54217
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.46645
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.5873
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "map_at_1",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.10672
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.11894
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.06064
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.2105
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.16098
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.06021
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.22024
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.05989
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.27054
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.24519
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.39937
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.2002
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.11208
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.24556
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "map_at_3",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.16845
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.19121
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.10711
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.32805
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.29995
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.11146
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.35248
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.10612
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.38489
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.3419
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.52176
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.30717
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.18265
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.34954
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "map_at_5",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.19573
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.22096
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.13255
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.37909
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.36896
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.13752
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.39498
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.12858
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.41928
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.3737
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.55789
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.34682
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.2138
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.39103
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "map_at_10",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.22944
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.25157
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.16344
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.43275
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.44484
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.17124
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.43319
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.15641
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.44784
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.40315
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.58473
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.38604
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.24826
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.43168
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "map_at_50",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.27407
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.27263
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.20496
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.46583
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.49598
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.22206
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.45508
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.1915
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.46333
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.42737
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.59776
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.40888
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.28621
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.45657
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "map_at_100",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.28057
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.27355
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.21127
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.46699
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.49795
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.23078
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.45583
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.19634
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.46399
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.42986
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.59816
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.40942
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.29052
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.45752
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "map_at_1000",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.28057
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.27355
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.21127
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.46699
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.49795
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.23078
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.45583
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.19634
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.46399
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.42986
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.59816
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.40942
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.29052
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.45752
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "recall_at_1",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.10672
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.11894
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.06064
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.2105
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.16098
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.06021
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.22024
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.05989
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.27054
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.24519
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.39937
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.2002
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.11208
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.24556
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "recall_at_3",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.21158
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.23028
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.14024
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.37796
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.33881
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.14075
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.40922
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.13758
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.44118
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.41162
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.56487
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.36274
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.23657
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.4078
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "recall_at_5",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.28119
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.29308
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.20445
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.4735
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.44562
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.19926
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.49508
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.19141
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.5144
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.49435
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.64034
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.44465
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.31548
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.49338
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "recall_at_10",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.40991
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.37951
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.30887
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.60067
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.59696
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.30397
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.61057
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.2828
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.59399
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.60234
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.71736
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.5583
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.43536
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.6039
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "recall_at_50",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.79955
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.51385
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.62042
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.7643
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.81638
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.64188
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.7657
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.54782
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.71596
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.79994
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.80033
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.70424
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.71409
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.74359
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "recall_at_100",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.94907
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.54393
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.75401
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.78843
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.85061
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.77778
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.787
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.64606
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.74381
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.85694
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.8129
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.72196
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.80204
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.76576
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "recall_at_1000",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.94907
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.54393
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.75401
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.78843
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.85061
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.77778
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.787
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.64606
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.74381
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.85694
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.8129
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.72196
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.80204
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.76576
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "precision_at_1",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.27258
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.30483
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.20271
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.48575
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.59171
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.29456
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.50264
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.23102
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.44101
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.46814
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.67748
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.48527
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.28105
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.50849
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "precision_at_3",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.2054
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.22747
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.17089
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.36039
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.48056
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.24013
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.3554
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.18966
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.28496
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.29085
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.3785
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.33603
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.22797
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.3429
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "precision_at_5",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.17159
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.18579
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.1591
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.30037
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.40791
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.20971
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.27499
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.16731
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.21577
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.22156
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.2747
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.26262
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.19548
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.27264
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "precision_at_10",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.13238
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.13032
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.13029
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.21183
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.295
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.16585
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.17897
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.13025
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.1364
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.14378
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.16485
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.17429
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.14777
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.18325
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "precision_at_50",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.0548
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.03708
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.05659
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.05776
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.0843
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.07235
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.04641
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.05216
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.03412
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.04281
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.03878
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.04526
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.05409
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.04889
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "precision_at_100",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.03234
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.01941
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.03423
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.02978
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.04369
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.04382
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.02381
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.0306
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.01753
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.02351
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.01972
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.02308
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.0308
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.02518
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "precision_at_1000",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.00323
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.00194
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.00342
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.00298
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.00437
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.00438
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.00238
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.00306
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.00175
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.00235
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.00197
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.00231
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.00308
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.00252
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "mrr_at_1",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.27258
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.30539
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.2033
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.48637
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.59155
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.29562
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.50264
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.23102
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.44101
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.46814
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.67748
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.48527
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.28164
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.50849
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "mrr_at_3",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.35297
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.36785
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.27519
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.57043
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.67097
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.38545
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.58651
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.3084
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.5061
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.56601
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.73229
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.57269
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.37889
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.59822
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "mrr_at_5",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.37324
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.38071
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.30168
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.58715
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.68365
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.4093
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.60071
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.3304
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.51689
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.58391
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74335
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.58555
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.40369
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.61337
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "mrr_at_10",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.39148
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.39001
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.31959
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.59654
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.69116
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.42772
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.60924
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.34755
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.52277
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.59386
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.7475
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.59294
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.42043
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.62126
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "mrr_at_50",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.40359
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.39435
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.33134
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.60041
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.69439
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.4372
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.61354
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.35849
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.52678
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.59917
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74942
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.59669
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.42869
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.62477
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "mrr_at_100",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.40437
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.3947
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.33227
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.60056
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.69458
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.43756
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.61372
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.35903
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.52711
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.59941
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74953
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.59687
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.42915
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.62492
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "qa",
"metric": "mrr_at_1000",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "zh",
"dataset": "default",
"value": 0.40437
},
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.3947
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.33227
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.60056
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.69458
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.43756
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.61372
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.35903
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.52711
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.59941
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74953
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.59687
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.42915
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.62492
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "ndcg_at_1",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.56936
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.58258
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.64793
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.62537
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.76087
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.59821
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.65634
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.63585
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.65591
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.47814
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.53514
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.40491
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.35015
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.47619
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.43775
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "ndcg_at_3",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.5046
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.51238
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.57585
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.56292
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.69321
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.53739
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.60219
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.57077
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.60925
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.42738
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.52505
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.46464
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.44993
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.44506
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.5535
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "ndcg_at_5",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.5155
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.50097
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.56818
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.5672
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.68737
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.55166
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.62201
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.6009
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.62775
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.44802
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.56967
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.49997
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.49634
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.47859
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.58184
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "ndcg_at_10",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.57074
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.54697
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.60584
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.62406
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.73236
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.59174
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.67149
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.65923
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.66895
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.50576
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62971
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.54925
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.53258
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.52866
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.60974
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "ndcg_at_50",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.65559
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.64234
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.68361
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.70257
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.79897
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.64742
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.72452
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.71006
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.71838
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.58948
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.68315
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.60533
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.58376
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.5875
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.64326
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "ndcg_at_100",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.66401
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.65434
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.69122
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.71179
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.80257
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65422
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.72875
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.7152
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.72406
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.60253
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.68963
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.6137
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.59318
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.60019
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.64925
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "ndcg_at_1000",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.66401
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.65434
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.69122
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.71179
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.80257
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65422
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.72875
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.7152
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.72406
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.60253
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.68963
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.6137
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.59318
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.60019
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.64925
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "map_at_1",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.19254
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.15647
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.19973
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.20854
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.27097
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.25321
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.3083
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.31079
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.35827
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.1999
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.30218
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.25787
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.27844
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.22747
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.43775
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "map_at_3",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.32382
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.2963
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.3528
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.37699
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.46731
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.40092
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.47428
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.45559
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.50261
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.30472
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.43148
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.39442
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.39878
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.34775
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.52544
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "map_at_5",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.38902
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.36084
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.4274
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.44439
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.55026
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.45698
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.52625
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.5081
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.54515
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.35248
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.48491
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.42938
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.43183
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.39291
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.5413
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "map_at_10",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.4527
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.43459
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.49744
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.51314
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.62326
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.50114
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.56695
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.5549
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.5772
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.39939
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.52863
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.46102
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.44974
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.43365
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.55319
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "map_at_50",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.49416
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.48226
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.5411
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.55437
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.66488
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.52815
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.59139
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.57744
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.60027
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.43594
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.55146
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.48079
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.4645
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.4566
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.56113
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "map_at_100",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.49584
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.48476
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.5423
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.5559
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.66566
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.52924
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.59217
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.57825
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.60135
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.43808
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.55247
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.48179
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.46556
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.45834
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.5617
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "map_at_1000",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.49584
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.48476
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.5423
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.5559
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.66566
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.52924
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.59217
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.57825
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.60135
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.43808
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.55247
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.48179
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.46556
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.45834
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.5617
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "recall_at_1",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.19254
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.15647
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.19973
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.20854
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.27097
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.25321
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.3083
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.31079
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.35827
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.1999
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.30218
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.25787
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.27844
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.22747
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.43775
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "recall_at_3",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.36805
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.33407
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.38524
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.41626
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.5054
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.44054
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.53971
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.50607
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.55079
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.34964
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.50348
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.49522
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.51533
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.3999
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.63454
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "recall_at_5",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.48371
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.43731
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.50412
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.53147
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.63626
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.54468
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.64355
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.62006
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.64268
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.45276
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.63055
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.58608
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.61499
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.50554
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.70281
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "recall_at_10",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.64537
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.59917
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.65183
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.6932
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.78549
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65541
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.76295
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.75865
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.73345
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.59366
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.7753
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.70723
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.71365
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.63239
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.78715
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "recall_at_50",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.8913
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.86614
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.86336
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.91173
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.95821
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.82116
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.92634
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.91452
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.87748
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.84728
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.94721
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.90695
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.91518
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.83246
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.93173
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "recall_at_100",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.92765
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.91717
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.89912
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.95626
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.97235
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.85298
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.94563
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.94029
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.90235
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.90892
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.97991
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.95245
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.9686
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.89631
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.96787
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "recall_at_1000",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.92765
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.91717
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.89912
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.95626
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.97235
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.85298
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.94563
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.94029
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.90235
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.90892
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.97991
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.95245
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.9686
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.89631
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.96787
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "precision_at_1",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.56936
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.58258
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.64793
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.62537
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.76087
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.59821
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.65634
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.63585
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.65591
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.47814
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.53514
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.40491
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.35015
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.47619
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.43775
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "precision_at_3",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.41908
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.44945
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.48817
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.47886
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.57337
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.41071
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.43192
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.39776
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.40591
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.32514
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.34505
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.28834
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.23442
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.324
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.21151
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "precision_at_5",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.3526
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.37538
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.40828
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.38643
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.46196
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.32679
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.32507
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.30812
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.30161
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.26612
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.27622
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.21779
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.17389
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.25882
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.14056
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "precision_at_10",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.24595
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.26787
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.28225
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.26755
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.30489
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.20863
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.20423
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.2
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.18656
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.18579
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.17919
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.13865
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.10297
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.17087
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.07871
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "precision_at_50",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.06902
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.07736
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.07633
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.07221
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.07739
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.05363
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.05121
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.05003
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.0472
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.05459
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.04524
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.03613
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.027
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.04493
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.01863
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "precision_at_100",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.03566
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.04036
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.03908
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.03717
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.03927
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.02765
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.02614
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.02555
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.02433
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.0288
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.0233
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.01877
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.01424
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.02373
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.00968
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "precision_at_1000",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.00357
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.00404
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.00391
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.00372
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.00393
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.00276
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.00261
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.00255
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.00243
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.00288
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.00233
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.00188
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.00142
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.00237
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.00097
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "mrr_at_1",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.56936
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.58258
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.64793
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.62832
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.76087
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.59821
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.65634
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.63585
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.65591
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.47814
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.53514
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.40491
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.35015
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.47619
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.43775
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "mrr_at_3",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.65414
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.65015
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.70513
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.7001
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.82518
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65377
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.73991
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.71195
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.73297
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.55829
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62297
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.5138
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.47626
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.54995
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.52544
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "mrr_at_5",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.67134
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.66186
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.71474
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.71396
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.83632
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.66746
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.74878
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.7275
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.74615
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.5781
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.64473
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.53144
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.49451
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.57222
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.5413
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "mrr_at_10",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.67997
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.67047
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.72158
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.7205
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.83857
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.67315
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.75637
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.73591
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.7504
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.58992
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.65443
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.54138
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.50688
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.58069
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.55319
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "mrr_at_50",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.68363
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.67642
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.72529
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.72447
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.83999
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.67696
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.75916
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.73834
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.75327
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.59589
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.65871
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.54845
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.51423
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.58553
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.56113
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "mrr_at_100",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.68381
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.67665
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.72565
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.72474
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.84003
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.67726
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.75924
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.73855
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.75335
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.5964
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.65887
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.54892
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.51478
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.58621
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.5617
}
]
},
{
"config": {
"retrieval_model": "bge-m3",
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3",
"reranking_model": "jina-reranker-v1-turbo-en",
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en",
"task": "long-doc",
"metric": "mrr_at_1000",
"timestamp": "2024-05-14T03:11:46Z",
"is_anonymous": false,
"revision": "97671a9fe67a86999677b0828f4ed48a"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.68381
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.67665
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.72565
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.72474
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.84003
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.67726
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.75924
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.73855
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.75335
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.5964
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.65887
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.54892
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.51478
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.58621
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.5617
}
]
}
]