[ { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38978 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38892 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61586 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69536 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59125 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56591 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44931 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52366 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72126 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70122 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50607 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61438 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59227 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33834 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33138 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57514 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63007 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49448 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51554 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36548 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53926 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61246 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63623 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.46339 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53993 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53555 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33268 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31127 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57098 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60064 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44659 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.517 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33903 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5518 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60978 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6405 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.46925 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52509 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5262 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3403 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30772 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58553 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59314 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43377 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53702 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34139 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56981 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62342 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6535 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4999 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52829 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53258 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35713 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31859 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61501 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61477 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45724 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55597 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35867 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58527 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63265 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66445 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53228 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54577 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54654 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3588 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31908 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61663 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61516 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45839 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55645 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36052 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58677 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63331 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66504 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53323 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54674 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54749 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3588 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31908 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61663 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61516 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45839 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55645 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.36052 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58677 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63331 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66504 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53323 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54674 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54749 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17648 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12106 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27267 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.19375 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.12216 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.25132 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12054 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.32707 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.38401 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.41564 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21337 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23809 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28924 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_3", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24613 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19433 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40924 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.35845 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23353 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.39133 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19878 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46034 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.50112 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54582 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32698 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.36602 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39971 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_5", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27041 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.22297 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46452 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.43612 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.285 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43176 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23047 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49562 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.53189 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57771 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37209 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41186 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43533 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_10", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29126 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.2455 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5121 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.50175 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.32869 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45856 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25926 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51917 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.55084 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5959 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40847 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44411 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46057 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_50", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30056 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25302 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.53136 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51906 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.34354 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46851 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26994 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5277 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.55603 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60132 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42562 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45533 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46878 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_100", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30079 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25309 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5317 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51916 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3438 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4686 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27018 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52787 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.55611 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60142 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42582 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45548 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46892 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30079 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25309 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5317 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51916 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3438 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4686 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27018 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52787 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.55611 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60142 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42582 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45548 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.46892 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17648 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.12106 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27267 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.19375 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.12216 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.25132 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12054 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.32707 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.38401 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.41564 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21337 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23809 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28924 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26477 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21212 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44111 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.38327 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.25374 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43418 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.22065 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51169 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.52978 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.57809 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37828 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.39845 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43504 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3037 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.25616 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52213 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.48444 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3261 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50423 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27209 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57514 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58498 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63236 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4612 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47021 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49465 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34567 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29865 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60952 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.58625 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40479 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56849 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32917 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.63253 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62837 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67191 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55278 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53037 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54683 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39311 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32545 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68312 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63644 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46022 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62044 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37117 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67783 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65397 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70537 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64098 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57504 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58418 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40137 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32756 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68977 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63782 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46406 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62252 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38005 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68653 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65687 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70812 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64485 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57981 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58899 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40137 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32756 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68977 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63782 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46406 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62252 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38005 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68653 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65687 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70812 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64485 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.57981 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58899 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38978 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38892 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61586 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69536 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59125 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56591 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44931 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52366 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72126 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70122 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50607 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61438 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59227 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24153 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.275 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42916 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54835 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44788 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.38371 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3121 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.33228 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.3921 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.38911 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35298 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41711 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36731 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18157 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21226 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.33965 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.4501 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.36083 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.28494 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24399 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.24429 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.27457 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.27192 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27637 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.32074 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.27381 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11344 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.1307 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.21995 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.29291 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23319 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.16924 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.15612 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.14461 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.15539 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.15298 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17626 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.19495 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.16315 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02683 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.02919 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05222 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.06503 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.05344 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.03797 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.03618 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03209 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.03307 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03277 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04263 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.04345 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.03596 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0136 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.01467 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02636 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.03259 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.02695 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.01905 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.01833 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01616 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.01663 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01647 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02147 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02184 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.01809 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00136 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00147 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00264 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00326 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00269 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00191 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00183 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00162 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00166 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00165 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00215 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00218 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00181 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39034 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38951 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61586 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69536 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59125 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56649 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44931 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52366 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72126 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70122 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50607 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61378 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59227 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42051 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42968 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67069 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74015 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.64274 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62947 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.50065 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58118 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75561 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73644 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58406 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66597 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64255 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42453 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4354 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6781 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74589 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.64971 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63641 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.50948 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58711 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75987 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74122 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59391 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6734 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64914 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42695 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43791 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68118 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74817 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.65359 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63972 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51283 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59004 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76096 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74218 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59884 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67627 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65142 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42801 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43844 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68255 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74863 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.6547 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64078 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5138 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59132 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.7614 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74305 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60056 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6772 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6524 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42811 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43848 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6826 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74864 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.65473 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64079 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5139 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59143 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76144 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74306 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60058 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67725 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65243 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42811 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43848 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6826 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74864 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.65473 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64079 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5139 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59143 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.76144 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74306 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60058 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67725 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65243 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71098 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68468 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75148 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.75811 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65476 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72269 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71237 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60929 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.50613 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46884 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59664 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48996 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63853 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62711 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68341 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77228 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62228 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65978 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63923 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66846 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55226 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60361 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53878 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52814 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55661 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62808 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62754 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62058 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66055 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6788 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7616 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63163 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67468 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66064 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68111 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56367 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64954 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56963 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56648 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57047 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.65194 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65264 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65293 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68757 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71406 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80502 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66443 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73088 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.70488 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72089 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59974 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6931 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.61242 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6007 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.61156 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66793 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68495 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68212 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7173 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73969 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83808 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69606 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76455 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74765 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63111 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71696 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63696 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.63155 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64419 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69166 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68525 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68249 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71799 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7402 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83855 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69688 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76455 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74096 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74877 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63156 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71978 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63756 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.63277 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.6458 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69234 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68525 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68249 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71799 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7402 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83855 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69688 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76455 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74096 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74877 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63156 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71978 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63756 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.63277 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.6458 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69234 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.2126 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23341 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.25243 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.28863 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34173 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.3511 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.37849 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25204 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.34686 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32733 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37339 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.27938 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48996 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43051 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.39188 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.42862 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.4756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.53735 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47308 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52796 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.51804 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.54837 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.40843 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.50497 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45877 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48232 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44416 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59639 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50702 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48228 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5173 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5578 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62826 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.58127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57227 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59828 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46312 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56557 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49514 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51011 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48556 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61004 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56003 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56197 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59705 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.62339 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7117 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58217 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63195 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61121 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6348 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50352 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60316 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52593 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52895 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52346 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61688 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5817 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5832 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61883 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64212 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73475 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65002 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.62827 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64822 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5203 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.61521 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53559 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53887 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53989 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6227 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58177 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58329 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61902 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64217 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73485 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65002 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.62839 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64839 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52043 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.61555 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53567 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53901 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54019 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62277 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58177 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58329 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61902 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64217 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73485 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6012 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65002 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.62839 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64839 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52043 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.61555 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53567 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53901 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54019 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62277 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.2126 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23341 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.25243 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.28863 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34173 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.3511 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.37849 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25204 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.34686 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32733 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37339 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.27938 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48996 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46662 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4237 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46261 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.51198 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.56822 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51848 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60227 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.56995 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59806 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46328 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.57292 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55589 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57517 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5034 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71888 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57569 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54694 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58629 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.63029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69598 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6249 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69466 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69071 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56138 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70631 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63493 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65529 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5836 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.7751 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67932 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68661 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71656 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74812 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84121 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72249 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.82431 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77277 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78175 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.65423 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.80716 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.7377 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.74555 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68628 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.82329 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76081 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75871 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.788 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81001 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.92318 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.80543 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.92255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.87555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8588 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.73971 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.87842 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.82117 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.8588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.78425 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.92369 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76189 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76009 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81296 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.92495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.8082 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.92255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.87961 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8644 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7413 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.89153 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.82423 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.86573 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.79126 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.92771 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76189 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76009 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81296 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.92495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.8082 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.92255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.87961 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8644 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7413 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.89153 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.82423 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.86573 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.79126 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.92771 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71098 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68468 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75148 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.75811 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65476 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72269 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71237 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60929 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.50613 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46884 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59664 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48996 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53757 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54855 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56509 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.58309 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62862 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47222 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47324 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.44351 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.4552 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42259 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.3955 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32209 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.25618 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.39776 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.23963 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42543 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.45826 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46509 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.45959 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.50435 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36964 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34761 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.33221 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.33548 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.3306 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.30865 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.23865 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.18457 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.293 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15502 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26474 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.3033 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.30976 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.29115 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.33098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.225 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22113 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.20364 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.20161 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.20683 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.18838 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.14632 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.10742 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18207 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08233 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06075 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.06763 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07012 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.06478 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07435 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05232 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05093 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04773 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04565 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.04803 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04195 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03276 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02516 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04246 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01847 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03043 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03387 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03521 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03242 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03726 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02546 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02395 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02293 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0241 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02135 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01644 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01267 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02143 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00928 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00304 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00339 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00352 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00324 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00373 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00263 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00229 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00241 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00214 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00164 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00127 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00214 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00093 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.70809 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68468 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75148 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.75811 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65476 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72269 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71237 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60929 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.50613 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46884 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59664 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.48996 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7606 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.74775 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79389 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81023 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72272 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78592 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78151 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79167 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.6867 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70766 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62014 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56429 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67367 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.59639 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76782 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7533 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79951 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81421 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90494 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72956 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79056 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79356 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79825 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69763 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7232 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63057 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5815 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68263 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61004 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.77135 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75772 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80092 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.815 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.9065 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73329 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79427 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79794 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79983 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70047 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72744 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63526 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59019 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68683 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61688 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.77185 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75871 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80207 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81545 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90721 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79502 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80138 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70167 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72898 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63801 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59567 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68923 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6227 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.77185 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75871 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80207 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81551 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90721 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79502 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79945 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80143 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70167 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72911 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63801 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59577 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68927 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62277 } ] }, { "config": { "retrieval_model": "BM25", "retrieval_model_link": "https://github.com/castorini/pyserini", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-05-30T02:56:36Z", "is_anonymous": false, "revision": "e3782155d607ca266e6d34d5ad6c54f3" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.77185 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75871 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80207 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81551 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90721 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79502 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79945 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80143 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70167 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72911 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63801 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59577 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68927 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62277 } ] } ]