[ { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.49361 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.64761 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70384 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72955 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61153 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64265 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54903 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65174 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83383 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81181 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68977 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66013 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70592 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.4337 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.56763 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.65734 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.67883 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.52245 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56704 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46495 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62981 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72422 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73564 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59316 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58742 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.63975 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42744 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55198 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.65097 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66155 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48215 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56844 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44411 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.63661 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72515 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73856 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59011 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58042 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.63383 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.44222 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.57486 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67025 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.67759 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.50072 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59642 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.46871 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65419 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75331 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75553 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61704 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60712 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65533 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.47054 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62996 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70364 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73638 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59122 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63519 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52475 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67046 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77991 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76908 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64439 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65972 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68428 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.47307 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.6347 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70587 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73945 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60371 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64382 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52946 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67151 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78151 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77015 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64603 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66587 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68666 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.47307 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.6347 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70587 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73945 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60371 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64382 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.52946 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67151 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.78151 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77015 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64603 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66587 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68666 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21597 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.2034 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31736 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.21207 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.12667 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.2915 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14706 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42193 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43752 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.47634 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30785 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.26754 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.34919 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31307 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34716 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48077 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.39475 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.24703 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43828 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25553 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55309 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59454 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63548 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44682 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.40812 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48377 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34803 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4129 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54249 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.48609 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3066 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.48003 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30676 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58708 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63903 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67378 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49182 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46067 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53279 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37882 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47282 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59719 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.57569 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.37354 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51047 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35656 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6126 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67262 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69573 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52866 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.51072 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57285 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39418 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.50319 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61921 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61628 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42287 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52741 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38617 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62191 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68657 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70282 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54322 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53849 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58864 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39449 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.50409 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61964 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61705 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4256 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5289 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38703 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62205 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68691 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.703 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5435 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53971 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58908 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39449 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.50409 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61964 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61705 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4256 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5289 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38703 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62205 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68691 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.703 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5435 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53971 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58908 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21597 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.2034 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31736 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.21207 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.12667 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.2915 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14706 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42193 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43752 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.47634 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30785 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.26754 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.34919 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33458 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37499 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50661 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.42304 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27187 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47264 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28544 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57896 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.62322 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66016 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47778 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44122 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.51444 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38747 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47248 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59365 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5469 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3626 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54857 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.37028 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6363 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69711 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71927 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55337 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52816 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59243 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.45418 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.59045 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6933 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69618 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.50408 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63258 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4805 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.69156 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.77564 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76965 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63975 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.63589 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67878 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.53169 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.73537 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.77858 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83937 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.73062 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.75009 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.62693 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.7378 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85058 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80842 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.715 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77756 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75611 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54346 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.7544 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78779 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85052 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77814 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78707 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.646 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74318 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85689 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81307 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72236 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80187 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76573 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54346 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.7544 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78779 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85052 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77814 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78707 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.646 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74318 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85689 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81307 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72236 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80187 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76573 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.49361 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.64761 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70384 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72955 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61153 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64265 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54903 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65174 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83383 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81181 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68977 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66013 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70592 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31908 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48222 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48967 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59345 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4783 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4134 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.40609 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37035 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.48025 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45821 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.45039 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44562 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24486 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.39281 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.38389 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.50144 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.39755 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33175 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26511 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.34461 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.32125 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32213 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.35199 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.33907 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15575 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.26288 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.24907 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.34735 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28442 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.18489 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.22654 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.1564 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.20429 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.18153 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.19827 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23125 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.21201 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03812 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06699 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05885 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08622 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.0832 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04508 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05976 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03484 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04652 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03914 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04573 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05961 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04958 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01939 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03424 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02977 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04368 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04382 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01753 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02351 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01972 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02309 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02518 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00194 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00342 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00298 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00437 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00438 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00238 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00175 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00235 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00197 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00231 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00252 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.49361 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.64761 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70446 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72955 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61153 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64265 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54903 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65174 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83383 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81181 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.68977 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.66013 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70592 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.52952 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.70389 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.74969 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7872 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.67778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69254 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.62161 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67865 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86708 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.84028 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.73435 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.71767 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75532 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.53566 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71388 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.75666 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.79544 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.68912 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70203 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.63352 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68421 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.87152 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.84335 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.74082 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72747 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76279 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.53917 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.71955 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.76052 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.79922 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69746 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70779 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.63995 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68678 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.87336 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.84533 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.74457 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73285 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76621 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54131 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.72277 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.76199 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80095 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70068 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.71057 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64315 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6879 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.87437 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.84619 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.74596 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73558 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.7678 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54148 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.72289 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.76204 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80098 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70092 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.71075 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64329 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68792 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.87437 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.84622 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.74599 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.7358 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76785 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54148 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.72289 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.76204 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80098 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70092 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.71075 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64329 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68792 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.87437 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.84622 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.74599 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.7358 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76785 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76012 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69069 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72189 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83967 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67262 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.7493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49693 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50148 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58543 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53012 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6775 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62273 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66185 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65646 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77327 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62873 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67715 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67574 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56274 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6308 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56871 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59066 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55263 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6505 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67104 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61269 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65429 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65603 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76204 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63025 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69729 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.701 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69085 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57709 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65918 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60421 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.63437 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58405 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.67261 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7113 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65001 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68199 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8123 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66946 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.751 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74867 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73518 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71758 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65985 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6663 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63047 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68721 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76569 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71867 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73859 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.76154 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85422 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71032 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78695 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78486 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77039 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68348 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75739 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69151 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.69335 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67519 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71377 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7701 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72956 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74648 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71388 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78723 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77231 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69096 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75971 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69484 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.69836 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68031 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71702 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7701 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72956 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74648 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71388 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78723 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77231 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69096 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75971 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69484 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.69836 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68031 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71702 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26282 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.20571 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23491 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.25298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.3074 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.366 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.37101 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.39958 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25828 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35505 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33745 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40554 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.29107 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53012 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46091 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.38369 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.41924 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.45296 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.53454 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.48308 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.54432 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.5516 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55552 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4135 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52438 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48602 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53845 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44431 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62249 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53964 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46327 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50502 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.52784 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62998 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54376 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60373 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60756 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60324 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4705 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.57344 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52696 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56882 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.496 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63414 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.53542 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57918 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.59626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71744 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59169 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65268 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65138 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64359 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5213 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62126 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56677 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58695 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53589 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64036 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63568 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57631 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61264 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74541 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61192 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67168 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67041 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66081 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54754 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64073 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57847 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59478 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55568 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64646 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63654 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57872 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61436 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.62941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61249 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6718 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66111 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54883 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64107 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57894 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59536 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55642 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64674 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63654 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57872 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61436 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.62941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61249 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6718 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66111 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54883 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64107 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57894 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59536 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55642 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64674 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26282 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.20571 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23491 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.25298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.3074 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29989 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.366 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.37101 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.39958 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25828 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35505 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33745 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40554 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.29107 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53012 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50527 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4244 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45094 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.4951 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.57163 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52265 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60849 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60503 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60278 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46871 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60917 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59896 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65826 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5016 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.73092 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62674 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54909 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57996 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.61126 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70119 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6129 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71221 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71374 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69376 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58221 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70941 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69094 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.75346 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.61336 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.78715 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75832 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71559 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.75659 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8629 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71865 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83779 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.82507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79311 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7118 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.84337 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.8229 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.83408 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.7306 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.83133 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.91001 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.87369 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.86915 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.91976 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96755 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.83703 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94028 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.92836 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.89531 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.87431 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.96797 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.93482 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9409 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.87044 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.94779 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92813 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89949 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90369 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92813 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89949 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90369 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76012 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69069 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72189 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83967 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67262 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.7493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49693 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50148 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58543 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53012 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55877 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.53654 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5641 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.54769 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63134 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47123 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47418 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.47059 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.44624 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42987 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.41622 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.34254 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.29179 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38749 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.24364 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44509 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.44384 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46627 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.4354 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.50707 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.35952 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.35406 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.33226 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.33607 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.31081 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.25399 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.20772 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30028 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15743 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.28613 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.297 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.30769 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28525 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.3375 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.22768 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.21681 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.20484 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.2194 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19703 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.16104 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.12018 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18824 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08313 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06988 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07694 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07538 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07121 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07799 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0544 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05206 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.05059 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04828 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05568 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04611 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03693 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02766 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04633 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01896 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03569 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03911 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02768 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02611 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02438 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01877 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01424 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02373 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00968 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00357 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00404 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00391 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00372 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00393 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00277 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00244 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00188 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00142 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00097 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76012 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69069 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72189 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83967 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67262 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.7493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49387 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50148 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58543 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53012 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82033 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.76026 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78649 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79892 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89312 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73115 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81643 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.8226 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81631 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70082 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73378 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62986 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61622 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.6606 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62249 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82799 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77272 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79403 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80851 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89665 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73547 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.82502 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.8331 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82558 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71462 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7423 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63983 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.63536 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67628 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63414 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.83026 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7767 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81346 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.89813 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74033 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.82863 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.8344 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82777 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71946 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74807 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.64856 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64372 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68452 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64036 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.83156 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81521 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8986 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74363 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83017 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83613 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82893 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72191 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75053 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65207 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64673 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68774 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64646 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.83159 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77852 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80037 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81527 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8986 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74377 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83022 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83621 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82897 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72227 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7506 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65219 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64699 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68786 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64674 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "niu-72edd029e19ba82cc54451cf66ab93575ad14722", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-06-17T09:33:10Z", "is_anonymous": true, "revision": "51bc60fabad275d24e65118dee38f8c8" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.83159 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77852 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80037 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81527 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8986 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74377 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83022 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.83621 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.82897 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72227 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7506 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65219 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64699 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68786 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64674 } ] } ]