eval_results
/
AIR-Bench_24.04
/bge-m3
/niu-0985429452f0cbcf1d154b733a12e2975ea209b8
/results_20240521034643-ed31714ba76014ad85fbc533b2c45072.json
[ | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.72192 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41088 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58751 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60409 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64757 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.60832 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5249 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.48753 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48517 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.76951 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66647 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54246 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62032 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50732 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64008 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36886 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.53269 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57135 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61068 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.52132 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48569 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4278 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49242 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.67444 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62163 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47538 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.55959 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48396 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64423 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36757 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.52123 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56979 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59653 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.48432 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49265 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.41147 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50482 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.68278 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63702 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48126 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.55543 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48984 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.69201 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38581 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.5493 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59318 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62077 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50046 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53174 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4416 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53224 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.71193 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66389 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51642 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58577 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52431 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.75077 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42554 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.60878 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64465 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69049 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.59077 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58732 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50261 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56805 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.74615 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69177 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5629 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64226 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57856 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.75606 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43018 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.61397 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64867 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6952 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.60383 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59226 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50703 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57082 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.7487 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69377 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56642 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64784 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58397 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.75606 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43018 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.61397 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64867 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6952 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.60383 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59226 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50703 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57082 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.7487 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69377 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56642 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64784 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58397 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29926 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.1789 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18225 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27237 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.17451 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12609 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23567 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12927 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.29485 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.40419 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39277 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23485 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24693 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.24586 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46414 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.26065 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32044 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40762 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3359 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24471 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36687 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22953 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41449 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.5468 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52508 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.34267 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3841 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.34983 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.53139 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2911 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.38285 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46023 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41914 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30521 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40387 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27731 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44551 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.59226 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56133 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38258 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43584 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38882 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.59205 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32065 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.44344 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51008 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50857 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3715 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43878 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32696 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47354 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62521 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58716 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4184 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.48567 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42757 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62375 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33913 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.47651 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53959 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55381 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42118 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46223 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35854 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48887 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64174 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59934 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43936 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.51535 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45284 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62468 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3398 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.47748 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54029 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55491 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42401 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46317 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35935 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48929 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64223 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59971 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43994 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.51651 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45394 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62468 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3398 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.47748 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54029 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55491 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42401 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46317 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35935 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48929 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.64223 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59971 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43994 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.51651 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45394 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29926 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.1789 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18225 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27237 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.17451 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12609 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23567 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12927 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.29485 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.40419 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39277 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23485 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24693 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.24586 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50599 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28823 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35538 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44439 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37416 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27298 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41718 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26618 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46696 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58718 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57595 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38658 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42627 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40258 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.61516 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33987 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.45431 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52822 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49558 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36603 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4927 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35114 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53071 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.66871 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64955 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46795 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.51359 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48301 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.75427 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40891 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.57923 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63292 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65824 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50324 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59908 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46864 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60951 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.7472 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72068 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57034 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.628 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59138 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.9242 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52249 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.7336 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.76999 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.83224 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.72836 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.76642 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62762 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72927 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.84639 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.80445 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.7063 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.77995 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74363 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.949 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54346 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.7544 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.78779 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.85052 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.77814 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.78707 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.646 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74318 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.85689 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.81307 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72236 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80187 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.76573 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.949 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54346 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.7544 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.78779 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.85052 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.77814 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.78707 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.646 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74318 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.85689 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.81307 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72236 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.80187 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.76573 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.72192 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41088 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58751 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60409 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64757 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.60832 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5249 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.48753 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48517 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.76951 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66647 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54246 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62032 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50732 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.48678 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27263 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.45747 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42193 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54196 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.47901 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35911 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.37987 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30305 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4455 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38448 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35201 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43375 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.34036 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3837 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.21344 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.37549 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33569 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46254 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.40128 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.26878 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31368 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22284 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32615 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.2784 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27106 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.34141 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.26714 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25182 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.14031 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25628 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22404 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33057 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28469 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.17247 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21994 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.13937 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.19512 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.16508 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.17579 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22674 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.17979 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0634 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03755 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.06682 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.05844 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.08573 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.08301 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.0462 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05988 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03449 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04627 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03891 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.0453 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05973 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04869 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03233 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01939 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03424 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02977 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04368 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04382 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02381 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0306 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01753 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02351 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01972 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02309 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0308 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02518 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00323 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00194 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00342 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00298 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00437 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00438 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00238 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00306 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00175 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00235 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00197 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00231 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00308 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00252 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.72192 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.41088 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58751 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60471 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64757 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.60832 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52431 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.48753 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48454 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.76951 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66647 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54246 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.62092 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50732 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.77689 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.459 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.66117 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.66605 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.72279 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.68205 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59959 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.57184 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53975 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.81824 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.7264 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61053 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.68845 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59266 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.78496 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46697 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.67378 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6768 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73371 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.69302 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6123 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.58718 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54931 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.82498 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73683 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62324 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.69847 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.60865 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.78983 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47214 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.68066 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68278 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.73955 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.6995 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6211 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.59562 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55508 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.82749 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74074 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63028 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.7056 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6177 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.79212 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47603 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.68383 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68537 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74184 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.70276 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62568 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.59927 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55883 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.8292 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74269 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63356 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.70834 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62154 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.79233 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47631 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.68396 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68551 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74192 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.70303 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62577 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.59937 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55899 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.82923 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74275 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63365 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.70844 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62166 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "qa", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.79233 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47631 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.68396 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68551 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74192 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.70303 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62577 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.59937 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55899 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.82923 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.74275 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63365 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.70844 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62166 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.50867 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.6036 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.5858 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.55752 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.7038 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.56548 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.59718 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.63585 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.61828 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.4071 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.39189 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.39571 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.4095 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.39496 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.31325 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.47811 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.52385 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.508 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.49767 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.64536 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.52654 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.5431 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.55169 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.57459 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.37601 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.38768 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.42102 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.50801 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.38723 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.43258 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.47748 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.51857 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.51252 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.49509 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.6481 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.53069 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.56915 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.58062 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.5883 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.38033 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.42687 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.45458 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.53979 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.41143 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.47805 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.52863 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.57713 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.55605 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.56778 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.69808 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.57919 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.63078 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.63091 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.63572 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.42648 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.49116 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.52378 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.56652 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.46505 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.52321 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.6283 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.66788 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.64779 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.66492 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.77432 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.63937 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.68932 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.69371 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.69294 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.52557 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.5724 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.58432 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.61537 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.54474 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.55679 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.63636 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.674 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.65461 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.67084 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.77664 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.6462 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.69462 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.70014 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.69874 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.5472 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.58566 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.59164 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.62688 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.55781 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.56599 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.63636 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.674 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.65461 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.67084 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.77664 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.6462 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.69462 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.70014 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.69874 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.5472 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.58566 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.59164 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.62688 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.55781 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.56599 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.15546 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.17276 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.17538 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.17479 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.24759 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.24752 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.28393 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.30109 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.33752 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.15996 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.21097 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.24814 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.33952 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.20015 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.31325 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.30088 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.31187 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.29756 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.31717 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.42967 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.39912 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.42089 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.43567 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.46839 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.25762 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.31302 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.35497 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.45693 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.29857 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.40428 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.35599 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.38032 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.36839 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.37262 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.51045 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.44697 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.47389 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.48586 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.50628 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.28839 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.35151 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.38591 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.4792 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.33249 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.42999 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.4138 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.46292 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.44259 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.44451 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.58351 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.49255 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.52066 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.52598 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.54007 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.32348 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.38938 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.42646 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.49274 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.36797 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.44843 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.46202 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.5118 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.48949 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.49342 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.6281 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.5193 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.54742 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.55359 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.56567 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.35952 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.41744 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.44821 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.50722 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.39894 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.456 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.46367 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.51293 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.49111 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.49469 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.62878 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.52056 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.54831 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.55463 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.56668 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.36374 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.41972 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.44916 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.50855 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.40115 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.45683 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.46367 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.51293 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.49111 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.49469 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.62878 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.52056 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.54831 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.55463 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.56668 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.36374 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.41972 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.44916 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.50855 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.40115 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.45683 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.15546 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.17276 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.17538 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.17479 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.24759 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.24752 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.28393 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.30109 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.33752 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.15996 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.21097 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.24814 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.33952 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.20015 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.31325 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.35403 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.34315 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.32726 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.36312 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.47796 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.44091 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.48553 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.48971 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.52167 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.31677 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.3781 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.43043 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.58037 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.35215 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.51406 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.45449 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.45221 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.45162 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.46535 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.61093 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.52192 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.58994 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.60005 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.60077 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.3903 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.48383 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.52182 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.64738 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.44077 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.62249 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.60253 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.64303 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.61297 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.65822 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.76716 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.64831 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.73842 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.71871 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71133 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.50798 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.64189 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.69743 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.71711 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.57724 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.76305 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.89284 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.88918 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.87284 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.93169 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.96438 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.82403 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.91934 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.9097 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.878 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.81763 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.91883 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.91324 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.9048 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.83376 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.91165 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.92813 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.91717 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.89949 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.95626 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.97235 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.85348 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.94423 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.94029 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.90369 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.90892 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.97991 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.95245 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.9686 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.89631 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.96787 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.92813 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.91717 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.89949 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.95626 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.97235 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.85348 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.94423 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.94029 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.90369 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.90892 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.97991 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.95245 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.9686 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.89631 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.96787 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.50867 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.6036 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.5858 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.55752 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.7038 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.56548 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.59718 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.63585 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.61828 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.4071 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.39189 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.39571 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.4095 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.39496 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.31325 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.41715 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.45245 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.43097 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.42773 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.5308 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.39484 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.38028 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.38282 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.37455 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.28962 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.25856 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.25665 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.25223 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.27451 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.17135 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.33757 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.38619 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.37515 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.34159 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.43641 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.30238 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.29915 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.29636 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.27742 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.22295 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.20649 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.19387 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.17626 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.21457 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.1245 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.23613 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.28288 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.26982 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.25133 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.29375 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.1994 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.19718 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.18683 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.17608 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.15191 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.1427 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.13374 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.10148 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.14734 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.07631 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.06919 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.07916 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.07598 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.07263 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.07766 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.05339 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.05099 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.04952 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.0472 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.0512 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.04341 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.0362 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.02653 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.04448 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.01823 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.03569 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.04036 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.03911 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.03717 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.03927 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.02768 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.02611 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.02555 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.02438 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.0288 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.0233 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.01877 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.01424 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.02373 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.00968 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.00357 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.00404 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.00391 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.00372 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.00393 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.00277 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.00261 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.00255 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.00244 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.00288 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.00233 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.00188 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.00142 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.00237 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.00097 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.50867 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.6036 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.5858 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.55752 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.7038 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.56548 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.59718 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.63585 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.61828 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.4071 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.39189 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.39571 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.4095 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.39496 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.31325 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.60164 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.66066 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.64349 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.63766 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.78261 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.63641 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.68451 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.70635 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.70161 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.50046 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.47928 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.48517 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52868 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.47712 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.40428 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.61696 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.67523 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.6642 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.65344 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.79524 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.64489 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.6962 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.72035 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.71371 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.51617 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.50239 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.50695 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.54293 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.49659 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.42999 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.62769 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.68395 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.67204 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.66542 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.79956 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.65423 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.7088 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.72744 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.72117 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.52608 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.5189 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.52432 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.5507 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.51223 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.44843 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.63459 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.68903 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.67696 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.67101 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.80147 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.65834 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.7111 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73146 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.72445 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.53585 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.5275 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.53126 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.55805 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.51974 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.456 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.63482 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.68922 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.67699 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.67104 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.80147 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.65857 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.71123 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73162 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.72455 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.53631 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.52784 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.53156 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.55857 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.52023 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.45683 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "bge-m3", | |
"retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", | |
"reranking_model": "niu-0985429452f0cbcf1d154b733a12e2975ea209b8", | |
"reranking_model_link": null, | |
"task": "long-doc", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-21T03:46:43Z", | |
"is_anonymous": true, | |
"revision": "ed31714ba76014ad85fbc533b2c45072" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.63482 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.68922 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.67699 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.67104 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.80147 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.65857 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.71123 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73162 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.72455 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.53631 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.52784 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.53156 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.55857 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.52023 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.45683 | |
} | |
] | |
} | |
] |