eval_results
/
AIR-Bench_24.04
/BM25
/jina-reranker-v1-turbo-en
/results_20240530042329-9fc5c95c1307ea0541634e18664d90c7.json
[ | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31538 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15675 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47893 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55752 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25293 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47862 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23546 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4511 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46694 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63694 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46967 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28164 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49033 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.29017 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15648 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47531 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50457 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22298 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43974 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.20371 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46702 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.42421 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58066 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42484 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28615 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45234 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.29071 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16206 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48094 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48494 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21006 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44785 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.19786 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.48451 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.43688 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59196 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42933 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29664 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45155 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30124 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17921 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50801 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49439 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22366 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47738 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21165 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51083 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46613 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61152 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46447 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32399 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46733 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32287 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21697 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55162 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54299 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29672 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50727 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2604 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53681 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50184 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62883 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50529 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.38298 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49211 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32585 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22126 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55435 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54545 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30969 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50881 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2665 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53938 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50614 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63002 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50737 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3903 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49476 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32585 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22126 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55435 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54545 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30969 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50881 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2665 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53938 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.50614 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63002 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50737 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3903 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49476 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.13636 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05055 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.20962 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.15325 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05186 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.20843 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.06381 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27836 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24748 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3795 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.19373 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11404 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23791 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.20288 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.08611 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3289 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27754 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.09519 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32595 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10343 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39254 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3313 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49313 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.29475 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18215 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32831 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.22652 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10395 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37537 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33522 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11483 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36328 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12256 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42589 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35669 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52448 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.33273 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21068 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36159 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.24732 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12218 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.424 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39332 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13865 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39319 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14262 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45273 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3779 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.54435 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23763 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38775 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25831 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13831 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44955 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42287 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16693 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40687 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16235 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46471 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.39219 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.553 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39045 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26177 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40024 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25875 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1391 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4501 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42339 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16956 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40714 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16342 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46503 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.39288 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5532 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39085 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26313 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40058 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25875 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1391 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4501 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42339 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16956 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40714 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16342 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46503 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.39288 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5532 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.39085 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.26313 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40058 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.13636 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05055 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.20962 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.15325 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.05186 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.20843 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.06381 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27836 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24748 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3795 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.19373 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11404 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23791 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23189 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.1127 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37776 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.30934 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11915 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37516 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12634 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44778 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.39072 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53277 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.34491 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22899 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37284 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.27774 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15533 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.45961 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.3962 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16307 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.44682 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.16741 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51607 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.45636 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59603 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.42052 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.30092 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43909 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32577 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21321 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56511 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50987 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2358 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52928 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.22818 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.59041 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.53162 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.65046 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52221 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.38802 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.50685 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.38721 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31197 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67865 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62846 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.41943 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.61589 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.35639 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.67265 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.6377 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.70265 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6357 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.5507 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57559 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40137 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32756 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68977 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63782 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46406 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62252 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.38005 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68653 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.65687 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.70812 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64485 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.57981 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58899 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.40137 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32756 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68977 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63782 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46406 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62252 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.38005 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68653 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.65687 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.70812 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64485 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.57981 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58899 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31538 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15675 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47893 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55752 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25293 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47862 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23546 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4511 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46694 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63694 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46967 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28164 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49033 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.21303 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13435 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36101 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.43762 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2042 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32748 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17488 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.28686 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.27099 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.35206 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.32005 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.2248 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31146 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.16591 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.11786 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.29331 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36272 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.17407 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25026 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.14759 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.21603 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.19809 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25142 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25084 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.18479 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.23761 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.10594 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.08704 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.20143 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.25088 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13164 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.15688 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.10532 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.13438 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.12317 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.1458 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.16586 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.13078 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.14874 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02647 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02772 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.05183 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.06432 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04866 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03768 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.03454 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03185 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.0321 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03263 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.04237 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.04128 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03562 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.0136 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.01467 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02636 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.03259 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02695 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01905 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.01833 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01616 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.01663 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01647 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.02147 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.02184 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.01809 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00136 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00147 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00264 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00326 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00269 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00191 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00183 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00162 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00166 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00165 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00215 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.00218 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.00181 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.31538 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.15616 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47955 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55721 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.25293 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.47862 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23546 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.4511 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.46694 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63694 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.46967 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.28164 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.49092 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.36193 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.21528 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.62425 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32755 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55292 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.29621 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.51483 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.54804 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.68433 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55074 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.37473 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.55722 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37048 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23057 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5731 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.63388 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.34738 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56338 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.31112 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5241 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.56273 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69185 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56293 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.39428 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56679 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37377 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.23967 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58004 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64027 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36083 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5684 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.321 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.52915 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.5703 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69507 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.56827 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.40595 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57231 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37543 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24449 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58272 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64262 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.3686 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57112 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32771 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.53162 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.57377 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.69625 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57045 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.41242 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57433 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37559 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24472 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58277 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64271 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36887 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57116 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32798 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5318 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.57396 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6963 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57052 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4127 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57449 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "qa", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.37559 | |
}, | |
{ | |
"domain": "news", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.24472 | |
}, | |
{ | |
"domain": "news", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.58277 | |
}, | |
{ | |
"domain": "msmarco", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.64271 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.36887 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57116 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.32798 | |
}, | |
{ | |
"domain": "finance", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.5318 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.57396 | |
}, | |
{ | |
"domain": "wiki", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.6963 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57052 | |
}, | |
{ | |
"domain": "web", | |
"lang": "zh", | |
"dataset": "default", | |
"value": 0.4127 | |
}, | |
{ | |
"domain": "web", | |
"lang": "en", | |
"dataset": "default", | |
"value": 0.57449 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_1", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.5289 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.55856 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.60355 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.61947 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.76359 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.58929 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.66479 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.64146 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.65323 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.45355 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.51892 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.40798 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.36795 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.47059 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.43373 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_3", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.47724 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.48183 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.54696 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.54407 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.69341 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.53752 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.60035 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57583 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.60471 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.41484 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.51345 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.45145 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.45981 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.44568 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.5535 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_5", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.47679 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.48573 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.54007 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.54722 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.68586 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.55641 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.61528 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.6 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.61981 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.43126 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.55188 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.48525 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.49924 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.47428 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.57683 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_10", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.52192 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.52364 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.57218 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.5944 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.73129 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.59448 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.66764 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.65251 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.66263 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.48144 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.60442 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.53049 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.53633 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.52283 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.60721 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_50", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.58443 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.58574 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.63553 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.6511 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.78651 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.64213 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.71736 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.69444 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.70538 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.53848 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.64889 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.56825 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.57187 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.57024 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.63419 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_100", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.58792 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.59 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.63815 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.65408 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.7874 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.64384 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.72052 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.69712 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.70802 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.54176 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.6521 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.57286 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.57571 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.57363 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.63833 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "ndcg_at_1000", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.58792 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.59 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.63815 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.65408 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.7874 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.64384 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.72052 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.69712 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.70802 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.54176 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.6521 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.57286 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.57571 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.57363 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.63833 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "map_at_1", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.17423 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.1489 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.18347 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.20478 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.27437 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.2517 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.30924 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.3184 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.35793 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.18815 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.29091 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.26094 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.29179 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.22467 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.43373 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "map_at_3", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.3044 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.28048 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.33588 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.36555 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.46742 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.4033 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.47235 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.46109 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.50274 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.29507 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.41849 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.38625 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.40925 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.34674 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.5241 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "map_at_5", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.35895 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.35245 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.4032 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.42924 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.54907 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.4645 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.52033 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.50936 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.54235 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.33824 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.46653 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.42116 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.43839 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.39151 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.53715 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "map_at_10", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.41441 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.41999 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.46864 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.48974 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.62212 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.50636 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.56337 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.55226 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.57529 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.37883 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.50487 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.44996 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.45705 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.4306 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.54999 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "map_at_50", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.44675 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.45262 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.50771 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.52176 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.65775 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.53087 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.58715 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57087 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.59529 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.40506 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.52468 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.4631 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.46744 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.45112 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.55638 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "map_at_100", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.44761 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.4535 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.50825 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.52219 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.65798 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.53121 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.58773 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57136 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.59576 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.40563 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.52513 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.46365 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.46784 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.45153 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.55682 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "map_at_1000", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.44761 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.4535 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.50825 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.52219 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.65798 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.53121 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.58773 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.57136 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.59576 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.40563 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.52513 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.46365 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.46784 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.45153 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.55682 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "recall_at_1", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.17423 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.1489 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.18347 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.20478 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.27437 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.2517 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.30924 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.3184 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.35793 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.18815 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.29091 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.26094 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.29179 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.22467 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.43373 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "recall_at_3", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.34928 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.3123 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.37418 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.39819 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.50935 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.44348 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.53938 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.5144 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.54848 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.34245 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.49731 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.47263 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52374 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.4027 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.63855 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "recall_at_5", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.44094 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.43298 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.4816 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.50833 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.63586 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.55658 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.6305 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.61511 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.62792 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.43647 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.61226 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.55837 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.60707 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.49737 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.69478 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "recall_at_10", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.57907 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.57213 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.61734 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.64793 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.78324 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66357 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75752 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.74013 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.72501 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.56134 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.73697 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.6674 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.70648 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.62233 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.78715 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "recall_at_50", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.74807 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.74264 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.77932 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.79799 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.92182 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.80057 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.9079 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.86776 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.8527 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.7273 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.87477 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.79949 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.84347 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.77312 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.90361 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "recall_at_100", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.76189 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.76009 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.79027 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.81296 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.92495 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.8082 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.92255 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.87961 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.8644 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.7413 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.89153 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.82423 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.86573 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.79126 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.92771 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "recall_at_1000", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.76189 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.76009 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.79027 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.81296 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.92495 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.8082 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.92255 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.87961 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.8644 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.7413 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.89153 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.82423 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.86573 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.79126 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.92771 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "precision_at_1", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.5289 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.55856 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.60355 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.61947 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.76359 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.58929 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.66479 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.64146 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.65323 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.45355 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.51892 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.40798 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.36795 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.47059 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.43373 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "precision_at_3", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.39981 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.41642 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.4645 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.46018 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.57065 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.4127 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.42911 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.40056 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.39695 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.32058 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.33874 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.2771 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.23838 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.32586 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.21285 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "precision_at_5", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.32659 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.36336 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.38817 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.3705 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.45707 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.33214 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.31944 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.30588 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.29516 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.25902 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.26595 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.21104 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.1727 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.25602 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.13896 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "precision_at_10", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.2237 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.25495 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.26509 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.25103 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.30299 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.20863 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.20254 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.19496 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.18333 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.17568 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.17054 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.13282 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.10267 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.16751 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.07871 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "precision_at_50", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.05977 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.06649 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.06964 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.06419 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.07418 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.0522 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.0502 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.04723 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.04522 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.04732 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.04205 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.03209 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.02481 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.0423 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.01807 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "precision_at_100", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.03043 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.03387 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.03521 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.03242 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.03726 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.02631 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.02546 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.02395 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.02293 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.0241 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.02135 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.01644 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.01267 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.02143 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.00928 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "precision_at_1000", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.00304 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.00339 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.00352 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.00324 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.00373 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.00263 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.00255 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.00239 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.00229 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.00241 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.00214 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.00164 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.00127 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.00214 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.00093 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "mrr_at_1", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.5289 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.55856 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.60355 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.61947 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.7663 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.58929 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.66479 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.64146 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.65323 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.45355 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.51892 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.40798 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.36795 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.47059 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.42972 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "mrr_at_3", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.61224 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.61662 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.66716 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.68142 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.83062 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.64236 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.74131 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.71242 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.72536 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.5378 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.61306 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.50256 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.48714 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.55322 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.52209 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "mrr_at_5", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.62726 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.63058 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.67751 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.69469 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84094 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.65575 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75047 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.72544 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.73611 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.55624 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.63225 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.51789 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.50109 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.56709 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.53514 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "mrr_at_10", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.635 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.63886 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.6841 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.69922 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84383 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.6629 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75679 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73331 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.74142 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.56848 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.6407 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.5287 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.51368 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.57739 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.54798 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "mrr_at_50", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.63814 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.64331 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.6865 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.70171 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84473 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66549 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75931 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73553 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.74392 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.57156 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.64389 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.53468 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.51976 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.58101 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.55429 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "mrr_at_100", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.63818 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.64337 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.6866 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.70188 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84473 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66555 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75939 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73557 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.74397 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.57169 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.644 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.53497 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52004 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.58125 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.55481 | |
} | |
] | |
}, | |
{ | |
"config": { | |
"retrieval_model": "BM25", | |
"retrieval_model_link": "https://github.com/castorini/pyserini", | |
"reranking_model": "jina-reranker-v1-turbo-en", | |
"reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", | |
"task": "long-doc", | |
"metric": "mrr_at_1000", | |
"timestamp": "2024-05-30T04:23:29Z", | |
"is_anonymous": false, | |
"revision": "9fc5c95c1307ea0541634e18664d90c7" | |
}, | |
"results": [ | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_500K-600K", | |
"value": 0.63818 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_400K-500K", | |
"value": 0.64337 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_600K-700K", | |
"value": 0.6866 | |
}, | |
{ | |
"domain": "law", | |
"lang": "en", | |
"dataset": "lex_files_300K-400K", | |
"value": 0.70188 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_30K-40K_10-merged", | |
"value": 0.84473 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_40K-50K_5-merged", | |
"value": 0.66555 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_2", | |
"value": 0.75939 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_3", | |
"value": 0.73557 | |
}, | |
{ | |
"domain": "healthcare", | |
"lang": "en", | |
"dataset": "pubmed_100K-200K_1", | |
"value": 0.74397 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "origin-of-species_darwin", | |
"value": 0.57169 | |
}, | |
{ | |
"domain": "book", | |
"lang": "en", | |
"dataset": "a-brief-history-of-time_stephen-hawking", | |
"value": 0.644 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llama2", | |
"value": 0.53497 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gpt3", | |
"value": 0.52004 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "llm-survey", | |
"value": 0.58125 | |
}, | |
{ | |
"domain": "arxiv", | |
"lang": "en", | |
"dataset": "gemini", | |
"value": 0.55481 | |
} | |
] | |
} | |
] |