[ { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30205 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.57219 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62454 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66308 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.6793 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61219 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51579 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59306 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79035 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68558 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55633 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65954 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58992 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2631 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49167 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60031 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.62602 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.60742 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55446 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4369 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60002 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67341 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62791 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48231 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59767 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54747 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25947 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4622 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60543 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.616 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57536 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5678 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41077 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61261 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.67093 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64256 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48252 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.59013 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54844 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26485 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.45711 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62757 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.6365 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58531 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59671 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41984 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.63394 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.68754 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6616 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49567 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.60232 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56429 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27563 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46956 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.65469 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69308 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.62694 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63563 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44864 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6511 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69914 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67724 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51635 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62469 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58674 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27719 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4705 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6585 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69656 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.63101 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64196 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45173 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65459 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69959 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67897 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51781 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62673 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58836 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27719 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4705 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6585 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69656 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.63101 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64196 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45173 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65459 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69959 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67897 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51781 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62673 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58836 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "map_at_1", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11181 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17555 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.26705 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.18192 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14323 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26711 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13533 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.36833 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.40994 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.39112 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2369 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.25864 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28372 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "map_at_3", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17409 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29502 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.42164 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.34816 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29538 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4161 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23629 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51505 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.5453 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52503 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34651 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41058 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39882 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "map_at_5", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19917 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34139 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48669 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.43677 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.3787 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46917 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28106 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55301 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58483 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56503 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38763 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46936 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44657 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "map_at_10", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.21819 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37347 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54711 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.52909 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46025 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50282 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32121 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58317 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60807 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58662 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41091 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.51404 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48193 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "map_at_50", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22372 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38111 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56384 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5666 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48577 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51922 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33563 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59041 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61421 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59388 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41954 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52705 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49305 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "map_at_100", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22391 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38124 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56446 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56739 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48665 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52018 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33616 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59078 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61427 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59416 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41973 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52743 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49328 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22391 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38124 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56446 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56739 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48665 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52018 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33616 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59078 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61427 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59416 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41973 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.52743 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49328 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11181 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17555 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.26705 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.18192 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14323 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26711 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13533 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.36833 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.40994 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.39112 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2369 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.25864 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.28372 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.1934 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31707 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46516 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.38512 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33022 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46569 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26502 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56519 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.57257 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56986 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38597 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44739 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43992 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23441 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38039 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56671 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51155 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44949 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56255 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33669 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.63495 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.6396 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64585 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.45991 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53865 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52115 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2747 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43678 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67065 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66673 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58502 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65115 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41436 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.69973 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69361 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70215 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5167 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61832 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59558 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3067 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46917 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.74601 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80952 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69055 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.77831 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49245 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.76195 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72492 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75136 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58112 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6776 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6595 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31512 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47334 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.76361 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82371 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70632 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.80887 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.50483 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.78198 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72702 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75936 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58819 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.68623 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66745 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31512 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47334 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.76361 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82371 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70632 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.80887 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.50483 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.78198 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72702 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75936 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58819 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.68623 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66745 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30205 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.57219 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62454 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66308 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.6793 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61219 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51579 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59306 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79035 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68558 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55633 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65954 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58992 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20655 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.41603 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46097 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.55626 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.56599 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.41632 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38596 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.36993 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.4453 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.39741 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36049 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47158 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39113 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16102 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32304 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37435 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.48061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48463 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.32056 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30892 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26991 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.31781 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.29079 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27418 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37136 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30627 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10044 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19593 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.24839 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.33885 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33132 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.19315 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.20072 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.16202 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.18064 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.16543 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16066 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23161 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.18875 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02249 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.0426 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05682 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08385 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07824 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04599 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04765 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03529 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.0387 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.036 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.03619 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05212 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04306 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01139 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.02143 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0289 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04249 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.03983 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02374 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02431 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01791 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.0194 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01823 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.01826 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02635 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02172 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00114 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00214 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00289 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00425 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00398 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00237 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00243 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00179 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00194 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00182 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00183 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00264 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00217 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30205 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5716 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62454 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66324 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.67876 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61219 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.51579 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59243 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79095 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68558 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.55633 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.65954 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58992 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33509 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.61972 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6931 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73941 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.75525 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68717 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.58384 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64311 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82351 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74117 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61785 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.71935 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65895 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34031 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62435 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70292 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74926 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.7633 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69649 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5934 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65094 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82759 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75061 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62553 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72725 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66885 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34303 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62687 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70582 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75334 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.76594 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70122 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59747 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65354 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82957 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75348 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62846 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72964 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67279 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34428 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62762 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70714 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75495 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.76711 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70402 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59946 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65542 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83026 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75447 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.6306 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73073 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67431 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34438 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62771 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70732 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75503 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.7672 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70429 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59955 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65571 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83028 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75451 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63069 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73083 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67439 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34438 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62771 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.70732 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75503 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.7672 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70429 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59955 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.65571 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83028 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75451 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63069 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.73083 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67439 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67919 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69369 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71598 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73156 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82065 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67227 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6828 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61202 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56486 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45399 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39169 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44818 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64162 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63175 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65627 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.67645 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74684 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60133 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6099 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60527 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62472 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57522 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56627 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.47976 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48081 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44753 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53561 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64356 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62908 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.6512 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68776 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75254 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61636 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63735 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63816 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64095 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59081 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60912 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53472 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52095 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47804 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56241 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69094 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68328 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69064 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74087 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69759 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7004 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68635 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.64767 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68025 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59392 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5601 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5312 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5938 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72458 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71962 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72355 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78001 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84324 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69489 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73432 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72983 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71961 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68724 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7179 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63136 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60957 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58878 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63453 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72757 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72214 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7265 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78215 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84561 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69934 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73136 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69226 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71945 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63679 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61335 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59618 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63716 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72757 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72214 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7265 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78215 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84561 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.69934 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73136 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69226 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71945 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63679 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61335 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59618 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63716 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.21875 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.19714 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.21591 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.24071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.29903 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.26613 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.30307 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.30574 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.34814 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.253 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.31999 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.27713 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.30861 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.2037 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.42122 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.38059 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40494 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.4597 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.50978 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.44804 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47343 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.47559 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50326 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42398 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.46671 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.40573 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.42784 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.33736 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50268 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50614 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.473 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49617 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55444 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.61423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51764 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5352 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.53778 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55277 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48746 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52097 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45338 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.45567 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.38463 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51774 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5812 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57436 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58383 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.63699 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70844 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57441 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.58909 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59138 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59313 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5507 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.57762 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49596 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47633 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.42978 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53084 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6013 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59725 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60478 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.66024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73233 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58938 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60659 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60504 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60814 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56725 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59388 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.50862 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49105 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45323 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53996 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60175 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59771 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60525 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.66064 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73291 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59002 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60526 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60871 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56804 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59409 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.50936 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49144 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45415 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5402 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.60175 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59771 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60525 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.66064 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73291 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59002 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60526 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60871 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56804 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59409 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.50936 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49144 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45415 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5402 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.21875 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.19714 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.21591 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.24071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.29903 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.26613 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.30307 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.30574 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.34814 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.253 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.31999 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.27713 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.30861 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.2037 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48429 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42144 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.44433 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5105 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54581 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.49927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.55335 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.54516 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55229 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47769 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.54595 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49628 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5455 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40603 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63052 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.61669 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56706 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57681 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65707 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69819 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61084 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67205 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6679 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64813 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5888 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66883 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62795 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6318 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.51342 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.69478 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.76462 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.74807 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74269 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81411 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86319 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73204 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.81289 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75212 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.73075 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.83075 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.7708 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.73516 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64692 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.79116 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.85967 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.85076 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83451 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.92522 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.9621 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.84272 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.92914 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.90497 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.85775 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.86322 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.95689 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.91161 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.93126 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.84127 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.97189 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.87449 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.86272 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.93447 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97057 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.866 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.9399 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.91294 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8763 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.88665 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.965 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.93921 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.95302 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.88144 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.98795 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.87449 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.86272 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.93447 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97057 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.866 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.9399 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.91294 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8763 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.88665 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.965 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.93921 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.95302 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.88144 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.98795 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67919 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69369 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71598 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73156 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82065 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67227 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6828 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61202 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56486 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45399 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39169 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44818 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54913 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.56156 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56312 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.58014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.6096 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.44883 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.43511 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.42832 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45082 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.37477 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.29448 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.25025 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34174 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.21017 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44624 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.47568 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47337 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.47316 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51087 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.37143 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34648 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34006 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.32473 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.36011 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.29568 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.23681 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.17982 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.26947 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.13896 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.29335 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.33363 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.32337 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.31534 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.34293 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.23899 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22282 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.21821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.19946 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.23607 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19784 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.1546 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.10742 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.17731 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.07912 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06624 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.0752 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07249 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07192 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07766 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05417 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05087 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.0464 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05415 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04562 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03595 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02742 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.0456 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01944 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03344 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.0379 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03663 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03929 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02753 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02572 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02487 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02366 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02768 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02295 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.0185 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01398 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02345 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00988 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00334 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00379 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00366 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00363 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00393 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00249 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00237 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00277 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00229 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00185 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.0014 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00234 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00099 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67919 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69369 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71598 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73156 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82065 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67227 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6828 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61202 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56486 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.45399 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39169 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44818 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.39759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.77023 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.75876 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.78304 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88043 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7128 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74131 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.75257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75672 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69308 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66937 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55879 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51137 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54809 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.50268 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.77919 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77077 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7894 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81578 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88424 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72277 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75343 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76559 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7668 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70674 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68572 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58211 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52873 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56769 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51774 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.78179 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77509 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7941 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81905 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88502 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72671 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75851 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76891 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77026 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71257 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69337 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58891 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54044 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57566 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.53124 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.78295 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79514 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82035 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88588 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72943 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76073 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77066 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7715 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71606 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69659 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59364 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5474 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58034 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.54 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.78309 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7766 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79523 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82035 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88588 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72966 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76081 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77074 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77175 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71631 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69673 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59383 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54774 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58081 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.54023 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bce-reranker-base_v1", "reranking_model_link": "https://huggingface.co/maidalun1020/bce-reranker-base_v1", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-06-05T03:32:34Z", "is_anonymous": false, "revision": "ee17178d61496777bb6231aa84cbcd48" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.78309 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7766 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79523 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82035 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88588 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72966 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76081 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77074 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77175 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71631 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69673 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59383 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54774 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58081 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.54023 } ] } ]