[
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_1",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.38978
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.38892
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61586
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.69536
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.59125
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.56591
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.44931
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.52366
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.72126
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.70122
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.50607
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.61438
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.59227
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_3",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.33834
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.33138
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.57514
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.63007
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.49448
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.51554
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.36548
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.53926
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.61246
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.63623
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.46339
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.53993
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.53555
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_5",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.33268
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.31127
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.57098
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.60064
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.44659
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.517
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.33903
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.5518
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.60978
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.6405
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.46925
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.52509
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.5262
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_10",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.3403
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.30772
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.58553
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.59314
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.43377
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.53702
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.34139
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.56981
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.62342
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.6535
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.4999
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.52829
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.53258
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_50",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.35713
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.31859
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61501
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.61477
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.45724
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.55597
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.35867
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.58527
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.63265
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.66445
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.53228
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.54577
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.54654
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_100",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.3588
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.31908
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61663
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.61516
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.45839
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.55645
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.36052
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.58677
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.63331
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.66504
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.53323
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.54674
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.54749
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "ndcg_at_1000",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.3588
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.31908
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61663
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.61516
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.45839
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.55645
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.36052
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.58677
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.63331
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.66504
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.53323
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.54674
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.54749
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_1",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.17648
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.12106
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.27267
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.19375
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.12216
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.25132
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.12054
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.32707
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.38401
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.41564
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.21337
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.23809
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.28924
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_3",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.24613
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.19433
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.40924
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.35845
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.23353
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.39133
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.19878
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.46034
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.50112
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.54582
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.32698
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.36602
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.39971
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_5",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.27041
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.22297
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.46452
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.43612
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.285
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.43176
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.23047
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.49562
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.53189
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.57771
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.37209
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.41186
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.43533
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_10",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.29126
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.2455
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.5121
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.50175
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.32869
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.45856
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.25926
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.51917
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.55084
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.5959
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.40847
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.44411
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.46057
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_50",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.30056
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.25302
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.53136
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.51906
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.34354
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.46851
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.26994
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.5277
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.55603
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.60132
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.42562
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.45533
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.46878
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_100",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.30079
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.25309
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.5317
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.51916
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.3438
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.4686
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.27018
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.52787
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.55611
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.60142
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.42582
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.45548
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.46892
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "map_at_1000",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.30079
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.25309
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.5317
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.51916
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.3438
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.4686
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.27018
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.52787
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.55611
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.60142
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.42582
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.45548
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.46892
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_1",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.17648
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.12106
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.27267
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.19375
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.12216
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.25132
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.12054
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.32707
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.38401
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.41564
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.21337
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.23809
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.28924
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_3",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.26477
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.21212
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.44111
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.38327
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.25374
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.43418
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.22065
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.51169
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.52978
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.57809
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.37828
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.39845
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.43504
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_5",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.3037
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.25616
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.52213
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.48444
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.3261
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.50423
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.27209
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.57514
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.58498
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.63236
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.4612
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.47021
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.49465
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_10",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.34567
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.29865
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.60952
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.58625
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.40479
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.56849
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.32917
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.63253
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.62837
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.67191
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.55278
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.53037
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.54683
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_50",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.39311
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.32545
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.68312
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.63644
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.46022
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.62044
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.37117
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.67783
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.65397
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.70537
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.64098
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.57504
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.58418
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_100",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.40137
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.32756
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.68977
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.63782
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.46406
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.62252
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.38005
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.68653
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.65687
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.70812
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.64485
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.57981
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.58899
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "recall_at_1000",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.40137
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.32756
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.68977
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.63782
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.46406
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.62252
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.38005
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.68653
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.65687
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.70812
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.64485
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.57981
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.58899
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_1",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.38978
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.38892
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61586
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.69536
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.59125
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.56591
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.44931
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.52366
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.72126
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.70122
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.50607
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.61438
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.59227
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_3",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.24153
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.275
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.42916
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.54835
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.44788
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.38371
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.3121
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.33228
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.3921
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.38911
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.35298
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.41711
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.36731
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_5",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.18157
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.21226
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.33965
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.4501
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.36083
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.28494
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.24399
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.24429
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.27457
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.27192
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.27637
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.32074
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.27381
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_10",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.11344
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.1307
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.21995
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.29291
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.23319
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.16924
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.15612
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.14461
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.15539
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.15298
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.17626
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.19495
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.16315
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_50",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.02683
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.02919
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.05222
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.06503
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.05344
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.03797
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.03618
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.03209
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.03307
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.03277
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.04263
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.04345
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.03596
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_100",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.0136
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.01467
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.02636
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.03259
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.02695
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.01905
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.01833
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.01616
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.01663
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.01647
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.02147
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.02184
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.01809
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "precision_at_1000",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.00136
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.00147
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.00264
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.00326
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.00269
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.00191
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.00183
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.00162
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.00166
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.00165
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.00215
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.00218
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.00181
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_1",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.39034
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.38951
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.61586
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.69536
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.59125
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.56649
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.44931
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.52366
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.72126
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.70122
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.50607
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.61378
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.59227
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_3",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.42051
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.42968
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.67069
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.74015
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.64274
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.62947
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.50065
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.58118
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.75561
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.73644
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.58406
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.66597
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.64255
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_5",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.42453
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.4354
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.6781
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.74589
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.64971
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.63641
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.50948
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.58711
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.75987
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74122
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.59391
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.6734
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.64914
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_10",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.42695
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.43791
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.68118
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.74817
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.65359
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.63972
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.51283
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.59004
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.76096
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74218
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.59884
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.67627
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.65142
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_50",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.42801
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.43844
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.68255
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.74863
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.6547
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.64078
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.5138
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.59132
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.7614
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74305
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.60056
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.6772
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.6524
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_100",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.42811
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.43848
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.6826
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.74864
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.65473
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.64079
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.5139
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.59143
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.76144
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74306
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.60058
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.67725
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.65243
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "qa",
"metric": "mrr_at_1000",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "default",
"value": 0.42811
},
{
"domain": "news",
"lang": "zh",
"dataset": "default",
"value": 0.43848
},
{
"domain": "news",
"lang": "en",
"dataset": "default",
"value": 0.6826
},
{
"domain": "msmarco",
"lang": "en",
"dataset": "default",
"value": 0.74864
},
{
"domain": "healthcare",
"lang": "zh",
"dataset": "default",
"value": 0.65473
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "default",
"value": 0.64079
},
{
"domain": "finance",
"lang": "zh",
"dataset": "default",
"value": 0.5139
},
{
"domain": "finance",
"lang": "en",
"dataset": "default",
"value": 0.59143
},
{
"domain": "wiki",
"lang": "zh",
"dataset": "default",
"value": 0.76144
},
{
"domain": "wiki",
"lang": "en",
"dataset": "default",
"value": 0.74306
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "default",
"value": 0.60058
},
{
"domain": "web",
"lang": "zh",
"dataset": "default",
"value": 0.67725
},
{
"domain": "web",
"lang": "en",
"dataset": "default",
"value": 0.65243
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_1",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.71098
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.68468
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.75148
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.75811
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86141
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65476
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.68451
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.72269
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.71237
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.60929
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62432
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.50613
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.46884
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.59664
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.48996
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_3",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.63853
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.62711
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.67027
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.68341
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.77228
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.62228
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.65978
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.63923
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.66846
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.55226
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.60361
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.53878
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.52814
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.55661
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62808
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_5",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.62754
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.62058
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.66055
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.6788
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.7616
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.63163
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.67468
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.66064
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.68111
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.56367
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.64954
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.56963
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.56648
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.57047
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.65194
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_10",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.65264
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.65293
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.68757
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.71406
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.80502
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.66443
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.73088
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.70488
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.72089
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.59974
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.6931
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.61242
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.6007
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.61156
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.66793
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_50",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.68495
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.68212
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.7173
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.73969
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.83808
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.69606
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.76455
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.74014
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.74765
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.63111
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.71696
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.63696
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.63155
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.64419
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.69166
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_100",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.68525
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.68249
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.71799
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.7402
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.83855
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.69688
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.76455
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.74096
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.74877
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.63156
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.71978
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.63756
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.63277
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.6458
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.69234
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "ndcg_at_1000",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.68525
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.68249
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.71799
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.7402
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.83855
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.69688
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.76455
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.74096
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.74877
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.63156
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.71978
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.63756
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.63277
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.6458
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.69234
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_1",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.23783
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.2126
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.23341
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.25243
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.31098
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.28863
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.34173
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.3511
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.37849
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.25204
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.34686
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.32733
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.37339
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.27938
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.48996
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_3",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.43051
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.39188
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.42862
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.4756
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.53735
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.47308
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.52796
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.51804
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.54837
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.40843
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.50497
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.45877
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.48232
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.44416
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.59639
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_5",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.50702
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.48228
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.5173
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.5578
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.62826
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.53989
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.58127
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.57227
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.59828
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.46312
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.56557
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.49514
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.51011
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.48556
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.61004
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_10",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.56003
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.56197
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.59705
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.62339
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.7117
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.58217
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.63195
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.61121
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.6348
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.50352
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.60316
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.52593
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.52895
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.52346
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.61688
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_50",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.5817
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.5832
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.61883
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.64212
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.73475
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.60098
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.65002
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.62827
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.64822
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.5203
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.61521
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.53559
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.53887
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.53989
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.6227
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_100",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.58177
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.58329
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.61902
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.64217
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.73485
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.6012
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.65002
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.62839
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.64839
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.52043
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.61555
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.53567
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.53901
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.54019
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62277
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "map_at_1000",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.58177
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.58329
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.61902
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.64217
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.73485
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.6012
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.65002
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.62839
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.64839
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.52043
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.61555
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.53567
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.53901
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.54019
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62277
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_1",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.23783
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.2126
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.23341
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.25243
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.31098
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.28863
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.34173
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.3511
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.37849
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.25204
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.34686
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.32733
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.37339
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.27938
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.48996
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_3",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.46662
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.4237
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.46261
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.51198
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.56822
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.51848
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.60227
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.56995
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.59806
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.46328
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.57292
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.55589
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.57517
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.5034
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.71888
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_5",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.57569
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.54694
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.58629
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.63029
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.69598
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.6249
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.69466
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.67
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.69071
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.56138
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.70631
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.63493
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.65529
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.5836
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.7751
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_10",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.67932
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.68661
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.71656
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.74812
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.84121
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.72249
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.82431
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.77277
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.78175
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.65423
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.80716
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.7377
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.74555
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.68628
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.82329
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_50",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.76081
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.75871
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.788
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.81001
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.92318
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.80543
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.92255
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.87555
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.8588
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.73971
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.87842
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.82117
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.8588
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.78425
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.92369
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_100",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.76189
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.76009
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.79027
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.81296
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.92495
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.8082
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.92255
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.87961
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.8644
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.7413
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.89153
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.82423
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.86573
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.79126
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.92771
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "recall_at_1000",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.76189
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.76009
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.79027
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.81296
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.92495
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.8082
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.92255
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.87961
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.8644
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.7413
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.89153
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.82423
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.86573
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.79126
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.92771
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_1",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.71098
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.68468
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.75148
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.75811
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86141
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65476
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.68451
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.72269
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.71237
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.60929
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62432
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.50613
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.46884
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.59664
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.48996
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_3",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.53757
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.54855
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.56509
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.58309
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.62862
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.47222
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.47324
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.44351
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.4552
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.42259
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.3955
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.32209
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.25618
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.39776
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.23963
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_5",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.42543
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.45826
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.46509
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.45959
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.50435
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.36964
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.34761
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.33221
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.33548
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.3306
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.30865
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.23865
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.18457
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.293
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.15502
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_10",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.26474
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.3033
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.30976
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.29115
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.33098
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.225
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.22113
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.20364
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.20161
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.20683
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.18838
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.14632
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.10742
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.18207
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.08233
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_50",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.06075
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.06763
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.07012
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.06478
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.07435
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.05232
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.05093
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.04773
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.04565
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.04803
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.04195
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.03276
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.02516
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.04246
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.01847
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_100",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.03043
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.03387
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.03521
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.03242
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.03726
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.02631
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.02546
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.02395
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.02293
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.0241
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.02135
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.01644
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.01267
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.02143
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.00928
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "precision_at_1000",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.00304
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.00339
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.00352
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.00324
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.00373
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.00263
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.00255
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.00239
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.00229
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.00241
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.00214
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.00164
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.00127
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.00214
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.00093
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_1",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.70809
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.68468
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.75148
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.75811
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.86141
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.65476
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.68451
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.72269
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.71237
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.60929
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.62432
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.50613
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.46884
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.59664
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.48996
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_3",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.7606
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.74775
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.79389
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.81023
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.90127
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.72272
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.78592
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.78151
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.79167
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.6867
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.70766
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.62014
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.56429
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.67367
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.59639
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_5",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.76782
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.7533
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.79951
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.81421
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.90494
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.72956
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.79056
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.79356
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.79825
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.69763
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.7232
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.63057
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.5815
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.68263
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.61004
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_10",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.77135
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.75772
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.80092
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.815
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.9065
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.73329
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.79427
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.79794
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.79983
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.70047
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.72744
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.63526
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.59019
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.68683
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.61688
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_50",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.77185
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.75871
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.80207
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.81545
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.90721
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.7348
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.79502
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.79941
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.80138
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.70167
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.72898
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.63801
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.59567
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.68923
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.6227
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_100",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.77185
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.75871
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.80207
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.81551
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.90721
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.7348
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.79502
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.79945
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.80143
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.70167
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.72911
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.63801
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.59577
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.68927
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62277
}
]
},
{
"config": {
"retrieval_model": "BM25",
"retrieval_model_link": "https://github.com/castorini/pyserini",
"reranking_model": "bge-reranker-v2-m3",
"reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3",
"task": "long-doc",
"metric": "mrr_at_1000",
"timestamp": "2024-05-30T02:56:36Z",
"is_anonymous": false,
"revision": "e3782155d607ca266e6d34d5ad6c54f3"
},
"results": [
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_500K-600K",
"value": 0.77185
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_400K-500K",
"value": 0.75871
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_600K-700K",
"value": 0.80207
},
{
"domain": "law",
"lang": "en",
"dataset": "lex_files_300K-400K",
"value": 0.81551
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_30K-40K_10-merged",
"value": 0.90721
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_40K-50K_5-merged",
"value": 0.7348
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_2",
"value": 0.79502
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_3",
"value": 0.79945
},
{
"domain": "healthcare",
"lang": "en",
"dataset": "pubmed_100K-200K_1",
"value": 0.80143
},
{
"domain": "book",
"lang": "en",
"dataset": "origin-of-species_darwin",
"value": 0.70167
},
{
"domain": "book",
"lang": "en",
"dataset": "a-brief-history-of-time_stephen-hawking",
"value": 0.72911
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llama2",
"value": 0.63801
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gpt3",
"value": 0.59577
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "llm-survey",
"value": 0.68927
},
{
"domain": "arxiv",
"lang": "en",
"dataset": "gemini",
"value": 0.62277
}
]
}
]