[ { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35869 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6518 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75835 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62449 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53691 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75101 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57192 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65202 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32901 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61742 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.71308 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5861 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55464 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68706 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52814 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61752 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33207 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61633 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.6943 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60093 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56965 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69927 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53686 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61646 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.34943 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.64232 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.71421 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63982 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58997 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7238 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57833 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64341 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37768 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68427 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.76772 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68227 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61283 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74101 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62113 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67669 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37998 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68784 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.77095 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68722 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61472 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74233 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62536 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67926 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37998 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68784 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.77095 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68722 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.61472 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74233 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62536 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.67926 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14869 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.2871 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.21121 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.27796 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.3359 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43747 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31257 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_3", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22686 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4395 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.40978 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.44723 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47368 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58509 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.37912 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45718 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_5", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26117 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50188 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.51029 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50149 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51132 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62685 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43218 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5077 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_10", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29142 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56038 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61232 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.54239 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.537 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6539 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47704 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.55261 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_50", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30603 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58589 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65154 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56326 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54829 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66264 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49746 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57168 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_100", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30634 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58659 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65228 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56398 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54848 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66283 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49805 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57215 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30634 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58659 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65228 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56398 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54848 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66283 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49805 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57215 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14869 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.2871 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.21121 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.27796 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.3359 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.43747 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.24308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31257 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25354 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47785 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.44409 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50397 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52761 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62459 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.43509 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50954 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.31179 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57236 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.5763 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60697 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59841 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69786 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53115 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59588 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37763 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.68632 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74279 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.71761 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.66084 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76442 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65191 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.69522 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.45639 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.79877 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.87373 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.84514 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.73514 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81549 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.78049 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.78388 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46751 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.81389 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.88696 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.86978 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74635 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.822 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.80206 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.79505 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46751 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.81389 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.88696 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.86978 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74635 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.822 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.80206 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.79505 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35869 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6518 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75835 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62449 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53691 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75101 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57192 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65202 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25338 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4653 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63043 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.4382 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.34154 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.42907 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40092 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44073 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20389 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37038 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.53369 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.33486 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.25211 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.30909 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.31358 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.34025 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13448 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.24659 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.3715 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.20785 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.15054 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.17985 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.20231 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.21658 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03386 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0601 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08928 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.05019 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03444 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.0395 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04935 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.0512 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0172 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.03059 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04517 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02564 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01736 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.0199 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02511 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02598 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00172 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00306 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00452 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00256 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00174 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00199 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00251 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.0026 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35869 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6518 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.75835 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.62449 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53691 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.75101 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57192 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.65202 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.40394 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.71262 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81432 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70289 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59548 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.79463 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.65386 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.72466 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41166 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.7207 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82109 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.71446 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60314 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80135 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.66386 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.73433 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41634 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72612 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82466 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72134 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.6066 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80409 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.6712 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.73861 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41844 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72824 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82595 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72336 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60862 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80514 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.67398 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.74029 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41858 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72835 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82602 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72359 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60876 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8052 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.67423 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.74034 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41858 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.72835 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.82602 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.72359 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.60876 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8052 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.67423 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.74034 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74855 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65476 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69577 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72829 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72312 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63115 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62703 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52454 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60224 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51004 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69643 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67547 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71339 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72342 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78542 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63017 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66801 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6484 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.67493 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58009 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62122 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57353 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53138 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57344 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6451 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69143 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67005 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70365 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.73429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.77341 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63826 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68656 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.67714 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69224 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60166 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66655 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.61279 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58198 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59548 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.67189 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.73182 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71907 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.74568 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78478 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82105 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67773 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.7433 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72518 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73743 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.65133 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71795 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66733 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.62399 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.64361 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68661 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.78157 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77491 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79306 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82737 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86839 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72008 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78388 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77385 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77045 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71107 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75515 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.70412 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.66343 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69469 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.71695 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7837 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77729 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79466 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82939 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86991 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72584 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77585 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77306 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71423 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75864 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.70779 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67032 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70013 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.72026 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7837 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77729 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79466 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82939 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86991 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72584 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78565 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77585 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77306 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71423 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75864 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.70779 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67032 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70013 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.72026 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.25134 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.2264 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23649 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28242 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31286 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29227 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34478 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.35488 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.38226 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.27017 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35091 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.35187 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37339 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28568 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51004 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4749 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42146 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.45807 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.51243 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.54779 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.4809 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53451 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.52648 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55231 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43621 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52234 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.4919 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.48446 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45524 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61379 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56187 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.52165 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55155 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60794 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63871 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5458 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59194 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.58643 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60595 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49911 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.58233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53393 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52089 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50401 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62885 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63037 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61706 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64708 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.68821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72578 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64308 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63019 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64448 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.54991 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62652 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57307 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.54306 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54596 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63519 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66139 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65356 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67869 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71525 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75823 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61465 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66422 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65309 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66182 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57807 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64321 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58711 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55561 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56929 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6426 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66184 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65403 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67899 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71559 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75861 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6155 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6646 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65336 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66227 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57874 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64372 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58757 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55638 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57002 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64291 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66184 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65403 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.67899 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71559 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.75861 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6155 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.6646 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65336 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66227 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57874 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64372 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58757 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55638 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57002 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64291 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.25134 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.2264 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.23649 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28242 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.31286 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29227 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34478 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.35488 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.38226 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.27017 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35091 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.35187 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.37339 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28568 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51004 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52287 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.45955 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50057 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.54815 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.58249 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53126 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61166 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.5812 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60272 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48739 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59837 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59663 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58012 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52493 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.73494 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64955 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5931 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63638 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.69361 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.70853 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.63198 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.69289 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70344 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60494 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72842 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.69265 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.68793 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62363 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.7992 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.79145 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.77238 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.79904 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.84463 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86426 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.84199 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80291 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80913 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72982 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.84761 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.82339 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.80218 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.74286 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.84337 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92657 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.92439 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.92362 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95895 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.98288 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.86849 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.96159 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.95057 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90325 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.9147 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.96878 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95491 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.95178 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.90808 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.97189 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.93524 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.9349 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.93082 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.96858 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.98868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.89719 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.96931 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.96148 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.91485 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.92804 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.98446 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.97485 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9911 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.93665 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.99197 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.93524 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.9349 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.93082 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.96858 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.98868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.89719 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.96931 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.96148 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.91485 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.92804 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.98446 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.97485 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9911 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.93665 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.99197 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74855 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65476 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69577 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72829 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72312 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63115 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62703 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52454 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60224 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51004 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59345 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59359 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61144 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60472 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.6404 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.47619 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47981 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.45005 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.45968 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43898 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.40901 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.33742 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.26113 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4099 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.24498 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47283 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.4991 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49882 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.49204 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.5125 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.37083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.35662 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34398 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.34462 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35191 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.31784 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.2546 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.19525 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.30756 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15984 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.30145 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34024 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.34053 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.32094 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.33777 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.23125 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.22592 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.21289 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.20941 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.22787 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.1973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.16074 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.11573 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.19412 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08434 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.07133 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.08072 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07988 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.0744 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07929 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05542 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05318 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.05171 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04882 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05749 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04573 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.0373 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02813 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04773 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01944 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03598 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04069 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.04018 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03743 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03992 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02833 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02685 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02605 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02476 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02921 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02332 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01899 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01457 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.0244 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00992 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.0036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00407 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00402 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00374 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00399 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00283 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00268 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00248 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00292 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.0019 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00146 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00244 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00099 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74855 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.86141 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65476 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.69577 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72829 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72312 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63115 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62703 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52454 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46588 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60224 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51004 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.81021 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.7983 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82101 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.853 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.90851 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73016 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79296 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.79225 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.80332 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.71129 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71532 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6498 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.56578 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69188 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61379 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.81773 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.8031 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.82722 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86421 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91164 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73671 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79845 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80458 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81125 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72468 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73099 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66375 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58729 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70252 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62885 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82203 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.80912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83029 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86606 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.9142 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74164 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80178 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.80789 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81503 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.72863 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73574 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66965 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59848 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.70825 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63519 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.82406 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.81059 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83243 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86704 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91457 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7439 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80332 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.81021 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.816 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.73237 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73888 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.67382 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60376 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.71202 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.6426 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.8241 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.81063 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83247 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86715 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91457 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74417 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80335 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.81032 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81604 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.73244 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73897 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.67394 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60428 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.71227 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64291 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "bge-reranker-v2-m3", "reranking_model_link": "https://huggingface.co/BAAI/bge-reranker-v2-m3", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-06-08T06:50:03Z", "is_anonymous": false, "revision": "241d248d2ee0a25e71b37657b0528289" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.8241 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.81063 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.83247 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.86715 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.91457 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.74417 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80335 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.81032 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.81604 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.73244 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73897 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.67394 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60428 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.71227 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64291 } ] } ]