[ { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36646 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57683 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68729 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59344 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5123 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71975 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51589 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59402 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32616 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54686 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63476 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55335 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52909 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6566 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.46813 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.55098 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32175 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54869 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61378 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56513 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5448 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66287 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47641 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54893 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33232 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5739 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63206 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6033 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56488 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6807 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50534 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57179 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35703 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61374 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69633 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63473 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58318 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69326 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53949 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60493 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35912 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61624 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69953 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63693 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58405 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69398 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54139 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60627 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35912 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61624 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69953 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63693 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58405 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69398 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54139 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60627 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15055 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.25987 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.19408 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26424 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.31757 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.42177 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21807 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28561 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_3", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22587 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.39036 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.3601 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41809 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44824 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.55645 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.33305 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.40154 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_5", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25244 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44303 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.44071 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46719 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48396 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59154 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37846 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44459 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_10", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27552 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49266 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.52361 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50677 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50865 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61208 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41125 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48104 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_50", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28826 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51644 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56693 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52272 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51835 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61793 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42773 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49931 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_100", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28858 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51694 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56773 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52309 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51845 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61806 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42801 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49958 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28858 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51694 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56773 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52309 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51845 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61806 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42801 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49958 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15055 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.25987 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.19408 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26424 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.31757 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.42177 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.21807 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28561 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25151 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42832 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.39362 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47834 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50421 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59471 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38248 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44887 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29446 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51192 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.50621 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56949 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57544 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65527 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.46752 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52601 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34431 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61469 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.6546 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6737 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.63451 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70713 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55949 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61116 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.4124 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71682 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80756 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.76533 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.68823 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7455 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65773 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.69776 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42198 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72714 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.8193 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.77548 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.69304 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74856 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.66718 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70321 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42198 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72714 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.8193 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.77548 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.69304 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74856 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.66718 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.70321 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36646 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57683 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68729 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59344 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5123 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71975 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51589 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59402 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24746 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.405 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.55563 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41242 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.32534 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.40784 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35336 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.38742 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19089 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.32478 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.46473 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.31306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.23975 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.28801 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27753 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.29877 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12182 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.21859 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.32489 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.1966 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.14448 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.1641 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17371 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19104 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03039 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05457 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.084 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04565 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03266 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03536 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04206 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04628 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01549 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02767 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04259 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.0231 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.0164 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01778 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02124 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02336 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00155 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00277 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00426 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00231 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00164 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00178 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00212 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00234 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36646 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57683 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68713 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59344 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5123 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71975 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51589 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59402 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41014 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64188 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7522 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67594 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57687 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76887 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59349 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66667 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41622 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.65204 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.76074 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68578 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58488 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77286 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60435 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67686 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42004 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6587 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.76549 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69152 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58766 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77544 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61078 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68194 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42196 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.66101 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.76724 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69358 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5894 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77646 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.6131 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68378 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42207 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6611 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.76728 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69365 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58946 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77648 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.6132 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68379 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.42207 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6611 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.76728 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69365 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58946 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77648 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.6132 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.68379 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71387 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71302 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79891 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67042 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65826 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68817 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58197 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.5973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48773 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40653 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54342 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.40562 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65827 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63283 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64647 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68002 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73923 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59515 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6329 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.62135 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.63533 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55927 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60497 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53567 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51106 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51689 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57711 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65699 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63203 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63825 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68708 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72416 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60108 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64872 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63221 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6487 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64139 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57646 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55263 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5372 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60235 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69656 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67493 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67426 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73723 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77213 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70203 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.679 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69547 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.616 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6998 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62607 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58736 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58289 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62479 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74093 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7278 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71802 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77997 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.68209 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73354 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72347 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72705 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67135 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73879 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65797 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62082 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62678 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64866 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74365 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72899 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71936 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78168 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82482 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.68595 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73433 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72464 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72966 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67595 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74201 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66037 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62583 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62989 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64997 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74365 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72899 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71936 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78168 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82482 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.68595 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73433 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72464 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72966 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67595 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74201 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66037 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62583 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62989 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64997 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23337 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.21296 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.22013 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.25794 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.29406 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.27996 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.31814 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.32244 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.36373 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25205 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.34429 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32917 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.3185 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.25811 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.40562 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44148 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.39228 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4058 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.4733 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51358 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.44918 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.49908 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.49846 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.52256 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.41352 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.50837 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46066 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45767 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41257 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53748 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5231 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48451 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49145 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.56022 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.59445 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.506 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.54861 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.54155 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.56674 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46488 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56093 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.50322 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48656 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45404 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55174 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58826 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56588 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56945 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.63599 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.67332 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5504 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59603 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.5814 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60429 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51273 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60727 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53867 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5056 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4921 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5612 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.61407 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60121 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59784 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.66331 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70782 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5727 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61281 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62053 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62524 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55163 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51483 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51219 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56673 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.61463 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60141 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59817 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.66369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70813 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61292 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6209 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54073 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62579 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55191 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51543 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51258 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56685 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.61463 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60141 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59817 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.66369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70813 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61292 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6209 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54073 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62579 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55191 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51543 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51258 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56685 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.23337 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.21296 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.22013 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.25794 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.29406 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.27996 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.31814 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.32244 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.36373 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.25205 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.34429 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32917 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.3185 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.25811 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.40562 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49564 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42994 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.44195 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54995 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.49647 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57758 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.56792 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.575 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47865 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.58813 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.54942 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58358 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46467 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69076 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62611 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56415 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5737 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6486 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66641 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59169 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64871 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66069 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57262 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69486 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65255 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67458 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56006 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.751 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75511 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72191 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72068 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8179 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69638 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76018 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7656 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.6859 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.82965 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.7704 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.76632 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67505 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.81928 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.878 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.85413 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82975 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.90729 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.94463 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.81962 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.88757 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.89157 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.85445 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.85046 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.9555 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.87725 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.90158 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.81197 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.92369 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.8899 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.85973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83541 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.91452 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.94898 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.83639 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.89179 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.89809 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.86718 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.8726 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97077 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.89054 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.92928 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.82866 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.93173 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.8899 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.85973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83541 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.91452 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.94898 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.83639 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.89179 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.89809 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.86718 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.8726 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97077 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.89054 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.92928 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.82866 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.93173 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71387 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71302 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79891 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67042 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65826 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68817 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58197 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.5973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48773 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40653 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54342 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.40562 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55255 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55325 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.57129 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.60417 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.44742 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.45352 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.44351 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.42742 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42987 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.3973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.32004 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.26508 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37442 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.23025 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44566 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.46547 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45503 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.46136 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.47446 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.34583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.33296 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.31933 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.31613 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.33333 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.30378 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.24356 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.1905 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.27899 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.1502 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.28873 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.31562 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.30858 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.3056 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.21845 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.21296 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.19832 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.19651 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.21503 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19378 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.15245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.11187 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.17871 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08193 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06809 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07658 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07325 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07174 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.0489 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04857 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04608 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05421 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0453 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03485 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02647 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04364 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01847 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03442 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03844 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03683 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03611 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03834 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02708 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02454 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.0244 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02333 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02762 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.023 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01764 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01362 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.0221 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00932 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00344 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00384 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00368 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00383 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00271 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00245 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00244 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00233 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00276 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0023 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00176 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00136 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00221 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00093 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71387 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6997 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71302 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74631 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79891 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67324 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65826 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68817 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58197 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.5973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48773 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.40653 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54342 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.40562 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.79143 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77377 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77318 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81465 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85824 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71081 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76573 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7621 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69308 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6982 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60072 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53165 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.61204 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53748 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80183 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.78158 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78028 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82129 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86409 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7187 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77685 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.75546 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7703 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70223 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70955 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.61851 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55109 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62997 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55154 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80394 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.78547 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7864 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82443 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86766 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77959 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76122 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77504 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70607 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71636 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62686 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55914 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63802 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.561 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80536 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.78697 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78802 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.8257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86849 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72542 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78066 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76328 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77608 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70895 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71939 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63082 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5641 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64195 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56652 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80539 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.78701 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78808 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.8257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86849 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72554 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78069 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76335 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77619 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70917 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71952 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63091 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56443 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64221 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56664 } ] }, { "config": { "retrieval_model": "bge-small-en-v1.5", "retrieval_model_link": "https://huggingface.co/BAAI/bge-small-en-v1.5", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-05-14T04:16:42Z", "is_anonymous": false, "revision": "0fd597f59ce3d9a57a59e86e58e60cc9" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.80539 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.78701 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78808 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.8257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86849 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72554 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78069 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76335 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77619 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70917 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71952 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63091 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56443 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64221 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56664 } ] } ]