[ { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34037 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.58986 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67782 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.78019 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70277 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67721 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5385 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62397 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82311 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7736 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59503 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72668 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67194 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27967 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.50029 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62915 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.71985 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61169 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61935 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.44436 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62496 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.70349 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69384 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50492 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.63631 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60151 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26991 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46609 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62171 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69483 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.56483 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62084 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41397 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.63327 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69575 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69386 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49449 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61263 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5882 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27333 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46024 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63739 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.70364 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57084 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64932 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42213 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6501 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.70682 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70681 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50885 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6234 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5991 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28565 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47542 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67006 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74488 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.61994 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6806 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45133 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.66893 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71593 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7181 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52789 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64575 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61787 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28663 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47635 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67314 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7465 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.62267 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68341 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4536 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67133 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.716 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71937 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5288 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64678 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61881 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28663 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47635 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67314 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7465 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.62267 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68341 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4536 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67133 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.716 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71937 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5288 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64678 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61881 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13457 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17928 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30079 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.22211 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14981 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30799 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14259 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39832 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.42814 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.44954 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.25226 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.28741 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32292 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_3", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19221 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30116 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45491 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.41948 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30102 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.48182 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24451 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54434 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.57613 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.5947 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36917 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44807 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_5", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2117 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34517 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51378 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51631 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.37414 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52893 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28616 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57983 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61428 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62774 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40372 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.4944 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48962 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_10", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22775 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37645 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56515 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60887 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44567 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56211 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32273 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60398 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63475 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64522 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42668 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53714 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52159 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_50", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23395 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38546 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5856 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64034 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.47726 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57741 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33883 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61348 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64012 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65095 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43515 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55131 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53251 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_100", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23408 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38561 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58619 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64072 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.47787 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57782 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33924 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61373 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64014 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65113 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43527 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55149 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53266 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23408 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38561 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58619 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64072 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.47787 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57782 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33924 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61373 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64014 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65113 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43527 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55149 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53266 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13457 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17928 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30079 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.22211 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14981 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30799 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14259 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39832 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.42814 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.44954 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.25226 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.28741 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32292 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20543 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31898 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48038 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.44375 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.32785 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52799 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.26784 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5859 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59828 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.39915 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46758 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47785 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23655 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37995 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56431 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56731 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42936 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60744 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33676 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64556 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65609 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67263 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.46058 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.53979 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54189 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26983 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.43685 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.65735 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.71113 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.56108 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6961 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41342 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.70062 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69783 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71507 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51993 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61983 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60695 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30573 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47625 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.74355 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.80923 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.67755 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.79024 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.48757 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.76167 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72154 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74808 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57653 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67651 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65665 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3106 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48044 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.75634 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81559 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.68813 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.80409 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49676 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.77567 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72179 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75423 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58106 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6813 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66054 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3106 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48044 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.75634 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81559 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.68813 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.80409 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49676 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.77567 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72179 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75423 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58106 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6813 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66054 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34037 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.58986 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67782 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.78019 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70277 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67721 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5385 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62397 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82311 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7736 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59503 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72668 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67194 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20785 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42251 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46985 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63159 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.56154 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45538 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.38837 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37666 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46417 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43312 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37223 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.49396 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.42121 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15469 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32363 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36815 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.52758 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46275 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.33497 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30515 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26991 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.32674 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.30087 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27187 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37255 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.314 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09522 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19611 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23829 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.35851 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31446 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.20059 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19729 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.15823 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.18255 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.16734 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.16008 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23078 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19074 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02193 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.04326 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05644 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08358 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.077 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.0464 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04717 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03522 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.03856 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03583 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.03589 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05197 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04264 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01107 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.02176 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0287 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04207 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.03897 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02351 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02396 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.0178 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.01929 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01805 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.01805 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02612 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02146 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00111 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00218 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00287 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00421 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.0039 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00235 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0024 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00178 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00193 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00181 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00181 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00261 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00215 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34037 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.58986 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67782 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.78019 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70277 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67721 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.5385 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62334 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.82311 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7736 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59503 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72668 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67194 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36285 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62758 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72057 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82218 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.7621 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.73716 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59095 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.66909 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.84654 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80351 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63961 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.7651 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71968 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36669 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63324 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72807 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82811 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77034 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.74437 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.60189 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67397 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.84933 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80687 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64631 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.76953 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72583 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36905 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63566 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.73233 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83062 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77432 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.74965 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.60667 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6767 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85017 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8088 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65069 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77183 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72849 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37026 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63665 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.73394 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83171 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77578 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.75151 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.60834 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67831 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85041 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80949 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65243 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77273 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72955 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37031 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.6367 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.73402 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83175 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77584 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.75164 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.60839 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67848 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85041 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80955 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65248 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77278 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72959 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37031 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.6367 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.73402 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83175 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77584 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.75164 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.60839 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67848 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85041 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80955 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65248 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77278 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72959 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75145 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75444 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80826 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85326 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67887 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71148 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70699 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61749 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5184 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47181 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60784 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51406 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68846 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65862 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68441 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73159 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77632 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62272 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65136 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6388 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66007 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.577 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6229 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55598 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5267 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56321 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64711 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67771 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65619 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67351 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73448 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76484 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63015 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67139 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66253 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67356 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59043 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66582 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59359 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56958 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58274 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.67874 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71984 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69291 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70295 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77856 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81144 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66401 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71158 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71964 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63706 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71302 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.64336 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61294 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62652 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6865 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75494 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7334 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73385 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81571 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85435 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70757 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75558 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7502 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7462 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68983 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74931 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.67829 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64939 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67005 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71622 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75551 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73512 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73542 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81716 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85579 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71081 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75694 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.75126 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7484 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69259 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75207 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68039 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65377 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67466 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71885 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75551 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73512 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73542 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81716 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85579 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71081 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75694 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.75126 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7484 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69259 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75207 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68039 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65377 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67466 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71885 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.25548 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.22717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23316 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28153 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.30878 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.33732 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34709 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.36895 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26388 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35136 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.34113 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37339 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28531 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51406 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47032 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.41059 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.43385 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.51691 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54078 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4736 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52007 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.51752 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.53908 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43168 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.5233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.47603 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48034 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44623 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61647 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55179 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.50795 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52549 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60711 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63159 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53817 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57572 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57391 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59023 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48934 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.58186 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51704 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51233 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49402 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63414 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6191 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59273 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60564 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68153 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7187 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5825 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6224 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61753 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.63023 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53782 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62302 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.55289 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53484 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53329 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63733 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64143 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62023 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62552 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70583 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74864 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60433 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63933 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64429 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56247 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63916 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56618 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5463 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55428 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64478 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64154 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62055 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62581 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70604 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74896 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6048 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63956 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63618 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64453 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56294 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63964 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56649 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54683 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55487 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64502 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64154 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62055 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.62581 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70604 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74896 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6048 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63956 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63618 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64453 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56294 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63964 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56649 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54683 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55487 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64502 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.25548 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.22717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23316 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28153 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.30878 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.33732 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34709 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.36895 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26388 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35136 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.34113 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37339 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28531 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51406 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.51306 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.44339 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.46346 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55641 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.5723 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51936 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59612 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57156 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58863 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49037 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60228 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57531 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56998 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50975 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.73494 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62816 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58088 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59604 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6893 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69938 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61916 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69672 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6818 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59219 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72707 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66888 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.66123 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60208 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.81124 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.77511 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73029 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73657 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82799 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85106 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71782 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81848 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79039 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78776 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70958 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.83567 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.78658 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.7777 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.7116 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.83534 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.86882 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.8357 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81751 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.92599 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.95653 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.84616 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.91301 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.90431 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.86237 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.87345 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.95338 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.91017 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9179 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.84694 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95984 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.87116 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.84351 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82459 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.93312 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.9619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.86171 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.9193 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.91047 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.87366 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.88586 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.96545 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.92091 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.94238 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.87085 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.9759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.87116 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.84351 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82459 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.93312 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.9619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.86171 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.9193 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.91047 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.87366 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.88586 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.96545 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.92091 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.94238 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.87085 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.9759 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75145 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75444 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80826 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85326 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67887 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71148 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70699 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61749 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5184 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47181 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60784 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51406 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58285 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57157 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58284 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.61259 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63315 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46726 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46667 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.44725 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45251 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44171 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.40991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33027 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.25816 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40243 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.24498 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4578 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48288 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47811 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48968 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.50707 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36488 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.3493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.33669 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.33548 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.3459 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.3173 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.24724 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.18813 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.3014 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.16225 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.29249 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.32222 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.31775 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.31534 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.33478 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.2244 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.21803 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.2098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.20538 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.22213 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19459 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.15521 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.11335 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18796 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08353 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06647 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07369 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07118 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07204 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07755 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.04975 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04941 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04672 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05459 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04503 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03607 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02706 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04549 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.0192 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03332 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.03706 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03583 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03617 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03902 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02504 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02479 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02358 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02768 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02289 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01825 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01386 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02319 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00976 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00333 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00371 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00358 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00362 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.0039 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.0025 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00248 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00236 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00277 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00229 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00183 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00139 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00232 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00098 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75145 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75444 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80826 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85326 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67887 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71148 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70699 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62022 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62432 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5184 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47181 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60784 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51406 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.81118 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.79379 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.80375 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86087 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8981 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72768 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.77887 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77684 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7836 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70583 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71486 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.63548 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56578 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68441 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61647 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.81537 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.8001 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81011 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90177 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73452 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78665 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79261 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71512 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73014 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6476 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58328 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69365 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63414 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82051 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80429 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81351 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87033 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90309 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73818 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.7889 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7911 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79506 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71855 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73494 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65285 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69886 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63733 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82171 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80567 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81529 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87103 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.904 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74132 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79061 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79571 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7231 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73817 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65669 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60101 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70218 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64478 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82176 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80573 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81533 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87109 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90406 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7415 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79064 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79284 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79589 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72323 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73822 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65672 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60136 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70248 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64502 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-07-09T02:15:54Z", "is_anonymous": false, "revision": "750597cd04d82d9665e0dcaa1fd045cf" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82176 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80573 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81533 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.87109 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90406 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7415 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79064 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79284 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79589 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72323 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73822 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65672 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60136 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70248 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64502 } ] } ]