[ { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32815 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.59163 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68216 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.77955 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.71612 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67721 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54294 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61451 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83621 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77707 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5933 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72252 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66784 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2735 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49396 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.63147 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72152 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.62078 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61784 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45016 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62028 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71157 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69758 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.50689 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.63477 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59825 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26635 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46024 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62557 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69682 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.57232 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62303 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41717 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62813 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.70112 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69808 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49829 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.61147 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58774 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27166 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4538 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6414 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.70673 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58131 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6518 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42703 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64668 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.71277 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71138 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51318 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62344 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59927 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2845 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.46958 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.67523 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74927 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.63261 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68329 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4571 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.66671 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72252 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72254 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53165 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64667 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61917 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28555 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47048 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.678 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7509 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.63549 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68608 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45943 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.66922 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72259 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72377 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53272 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64786 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62049 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.28555 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47048 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.678 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.7509 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.63549 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68608 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45943 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.66922 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72259 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72377 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53272 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64786 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62049 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12724 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17961 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30372 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.22102 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.15376 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30803 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14339 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39086 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43558 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45119 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2525 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.2842 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32144 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_3", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18756 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.29602 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45586 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.41996 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30735 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.48009 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24773 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53809 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58196 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59689 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37115 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44162 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44573 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_5", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20918 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.339 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51614 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51765 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38095 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52978 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.28867 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57338 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61856 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63066 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40718 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.49342 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48882 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_10", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22673 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37004 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56788 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61154 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45525 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56331 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.32668 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59864 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.63954 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64866 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43064 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.537 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52162 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_50", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23344 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37916 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5888 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64398 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48827 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5789 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34347 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60867 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64511 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65451 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43898 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5519 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53319 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_100", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23358 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3793 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58934 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64437 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48893 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57931 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3439 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60891 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64513 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65468 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43911 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55211 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53339 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23358 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.3793 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58934 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64437 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48893 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.57931 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3439 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60891 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64513 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65468 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43911 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.55211 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53339 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12724 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17961 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30372 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.22102 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.15376 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30803 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.14339 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.39086 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.43558 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.45119 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2525 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.2842 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.32144 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20145 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31332 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48142 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.4451 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.33351 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52624 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.27252 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58476 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60274 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62389 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40314 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46725 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47438 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23645 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.37317 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56794 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.56964 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43531 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61294 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33926 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.64261 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65788 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67783 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.46708 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.5396 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54318 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27362 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42819 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.66216 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.71607 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.5726 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70124 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.41946 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.70176 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.70087 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.72111 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52844 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.62207 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60943 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31003 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4693 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.75217 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81732 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.69541 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.79531 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.4954 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.76698 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72678 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75354 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58263 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.68077 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66166 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31512 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47334 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.76361 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82371 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70632 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.80887 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.50483 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.78198 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72702 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75936 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58819 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.68623 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66745 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31512 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.47334 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.76361 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82371 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.70632 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.80887 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.50483 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.78198 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.72702 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75936 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58819 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.68623 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66745 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32815 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.59163 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68216 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.77955 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.71612 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67721 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54294 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61451 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83621 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77707 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5933 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72252 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66784 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20692 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.41465 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47026 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63401 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.56919 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45401 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39409 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.37434 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46853 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43621 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37358 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.49396 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41828 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15658 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31797 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37051 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.53002 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46734 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.3372 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30648 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.26864 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.32722 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.30353 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.27487 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37291 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31482 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.09772 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19263 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.23965 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.36099 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.31985 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.2024 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19928 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.15836 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.18309 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.16908 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.1621 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23191 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19174 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02255 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.04262 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05691 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08441 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07863 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04683 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.04787 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03544 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.03878 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03617 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.03628 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05239 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04309 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01139 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.02143 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0289 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04249 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.03983 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02374 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.02431 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01791 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.0194 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01823 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.01826 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.02635 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02172 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00114 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00214 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00289 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00425 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00398 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00237 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00243 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00179 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00194 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00182 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00183 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00264 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00217 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32815 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.59163 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68278 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.77971 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.71665 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.67721 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54238 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61388 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.83621 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77707 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5933 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.72252 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.66784 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35101 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62846 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72687 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82305 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77286 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.73775 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.59723 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.66446 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85845 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80872 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63951 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.76322 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.71666 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35526 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63353 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.73437 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82939 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.78067 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.74551 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.60698 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.66872 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86119 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8124 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.64671 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.76747 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72328 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35838 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63566 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.7385 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83194 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.78529 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.75073 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.61236 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67198 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86186 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81419 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65081 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77004 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72603 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35953 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63694 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.74028 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83294 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.78669 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.7526 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.61408 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67379 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86218 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81485 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65258 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77097 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.7273 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3596 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63699 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.74034 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83298 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.78674 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.75272 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.61413 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67397 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86218 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8149 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65264 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77102 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72736 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3596 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.63699 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.74034 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83298 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.78674 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.75272 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.61413 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.67397 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.86218 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8149 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65264 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.77102 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72736 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75145 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76331 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80236 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85598 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67887 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.70868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70968 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62295 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62162 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52761 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60504 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51406 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68716 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67228 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69398 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78123 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62113 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65495 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63744 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66304 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57494 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62118 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.56346 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52456 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56078 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64912 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67538 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66403 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68215 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72953 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76926 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.62944 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67468 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6651 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67533 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58946 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6645 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60163 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57047 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58231 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.67884 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71537 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70347 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71636 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77624 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66463 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71208 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72053 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63539 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71316 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65289 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61532 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62882 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68914 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75349 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.74607 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74831 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81371 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85965 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70781 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76641 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.75145 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74752 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.68935 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74833 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.68824 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65213 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67222 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71895 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75473 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.74779 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75002 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81543 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86107 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71173 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76777 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7525 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74971 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69223 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75144 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6911 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65632 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67711 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.72228 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75473 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.74779 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75002 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81543 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86107 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71173 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76777 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7525 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74971 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.69223 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75144 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6911 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65632 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.67711 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.72228 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.25724 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.22915 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23686 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28006 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.30933 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29084 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.3392 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34685 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.36971 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26502 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.34866 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.3488 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37191 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28321 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51406 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46879 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4202 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.44301 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.51445 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54432 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47192 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52486 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.51666 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.54023 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43027 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52165 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48387 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47878 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.443 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6178 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51562 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.53288 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60352 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63553 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53691 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.58051 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57548 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59031 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4887 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.58085 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52462 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51234 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.49295 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63427 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.61291 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60377 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61682 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.67975 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72254 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58219 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63103 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.61779 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62949 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.53673 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62306 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5614 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53571 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53401 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63848 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63762 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.63276 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63744 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70455 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7534 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60412 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64939 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63665 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64391 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56192 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63876 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57461 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5471 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55422 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64597 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6331 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63778 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70477 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75374 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60465 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64964 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63676 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64415 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56245 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63928 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57499 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54758 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55487 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64629 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.6331 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63778 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70477 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75374 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.60465 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64964 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63676 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64415 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.56245 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63928 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57499 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54758 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.55487 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64629 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.25724 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.22915 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23686 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28006 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.30933 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29084 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.3392 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34685 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.36971 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26502 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.34866 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.3488 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37191 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28321 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51406 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.51369 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.45579 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47707 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5542 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.57725 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.51564 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60105 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57156 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59149 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4881 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60012 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58119 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56751 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50625 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.73896 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.62667 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58803 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60753 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68364 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70509 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61819 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.68138 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.68449 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59078 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72572 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.67629 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.66568 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60349 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.81124 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7688 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.74414 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75679 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82764 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85569 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.71918 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.83158 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7913 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7896 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70625 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.83765 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.79782 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.78635 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.7184 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.84337 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.86931 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.85492 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84026 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.92586 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96521 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.84581 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.9336 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.90678 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.86501 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.87385 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.95158 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.92388 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.92928 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.85614 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.87449 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.86272 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.93447 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97057 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.866 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.9399 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.91294 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8763 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.88665 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.965 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.93921 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.95302 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.88144 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.98795 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.87449 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.86272 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.84783 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.93447 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97057 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.866 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.9399 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.91294 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.8763 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.88665 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.965 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.93921 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.95302 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.88144 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.98795 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75145 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76331 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80236 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85598 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67887 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.70868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70968 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62295 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62162 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52761 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60504 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51406 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58092 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58559 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.58974 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60964 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63768 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46627 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.46854 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.44538 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45609 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43807 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.40901 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33231 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.25618 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.40149 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.24632 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45549 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48769 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.48047 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48673 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51033 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.36429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.3493 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.3395 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.3371 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34536 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.3173 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.24908 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.18872 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30196 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.16225 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.2896 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.32793 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.32337 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.31534 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.33587 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.2253 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22197 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.2098 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.20538 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.22104 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.19568 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.15706 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.11424 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.19076 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08434 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06653 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07538 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07272 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07215 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.0781 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.0511 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04958 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04688 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05454 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04503 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03644 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02736 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04594 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01936 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03344 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.0379 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03663 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03929 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02753 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02572 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02487 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02366 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02768 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02295 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.0185 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01398 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02345 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00988 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00334 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00379 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00366 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00363 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00393 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00249 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00237 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00277 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00229 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00185 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.0014 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00234 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00099 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75145 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76331 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80236 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.85598 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67887 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.70868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70968 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62568 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62162 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52761 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60504 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51406 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.81118 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7993 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.81558 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.85644 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90217 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7252 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.7784 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77638 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.78763 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.70583 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71261 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.64315 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56231 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.68441 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6178 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.8158 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80395 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82194 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86352 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90584 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73428 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78559 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.78744 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79624 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71403 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72815 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65741 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5819 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69281 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63427 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82046 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80806 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82462 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86552 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90669 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73839 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.7894 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79113 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79839 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71864 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73346 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66255 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59479 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69838 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63848 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82168 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80962 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82609 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90758 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7414 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79116 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79287 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79894 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.7232 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73659 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66655 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59966 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70192 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64597 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82179 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80968 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82612 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86634 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90763 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74163 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79119 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79295 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79911 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72332 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73664 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66662 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60001 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70218 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64629 } ] }, { "config": { "retrieval_model": "gte-Qwen1.5-7B-instruct", "retrieval_model_link": "https://huggingface.co/Alibaba-NLP/gte-Qwen1.5-7B-instruct", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-06-05T03:33:46Z", "is_anonymous": false, "revision": "1e244b372513682837fc33247f44a074" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82179 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80968 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82612 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86634 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90763 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74163 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79119 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79295 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79911 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72332 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73664 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66662 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60001 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70218 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64629 } ] } ]