[ { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17823 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44796 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66181 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6116 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42524 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62594 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51589 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4628 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17528 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44595 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60504 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56025 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45268 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56659 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4457 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.44066 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18222 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46095 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.58731 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56614 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47312 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58332 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44495 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45065 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20337 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49438 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60499 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6018 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50045 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61035 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.47555 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48414 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25379 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56416 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68884 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.65448 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.53611 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64861 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54462 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54645 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.2695 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57625 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.70115 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.66493 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54416 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65623 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.56019 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.55929 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3066 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59504 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.71604 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68095 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56548 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67081 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58325 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57848 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06341 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20099 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.18853 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.28342 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.27556 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36417 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.22596 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.21917 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_3", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.10993 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31112 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.3448 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.438 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.38325 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.47306 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32204 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.31387 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_5", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12935 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.35947 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.41962 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47785 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.41627 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.50663 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.35221 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.35199 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_10", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.15028 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40745 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49491 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.51082 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4419 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52937 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38012 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.38701 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_50", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17056 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44115 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54477 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53321 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45702 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54482 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40726 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41348 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_100", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17282 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44343 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54758 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.535 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45803 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54605 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40997 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4159 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "map_at_1000", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17469 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4447 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54898 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53612 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45889 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54697 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.41166 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41726 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.06341 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.20099 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.18853 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.28342 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.27556 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.36417 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.22596 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.21917 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_3", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13834 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36167 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.37874 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.48709 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4388 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52264 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36427 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.37179 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_5", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18263 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45404 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.48851 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56445 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51222 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59579 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.4296 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45761 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_10", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24757 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56913 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.63047 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.66405 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.58933 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66794 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.52232 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.56275 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_50", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3976 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.7646 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.84111 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.82345 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.70521 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.78823 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.7345 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.74266 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_100", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46751 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.81389 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.88696 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.86978 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74635 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.822 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.80206 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.79505 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.69906 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.92263 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.96282 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.96328 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.90553 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.90955 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.93613 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.9022 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17823 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44796 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66181 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6116 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42524 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62594 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51589 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4628 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_3", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14307 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.33395 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.52482 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40598 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.27403 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.34511 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.32159 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.30736 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_5", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.12027 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.27931 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.43912 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.29725 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.20732 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.25119 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.23986 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.24417 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_10", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.08795 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.19535 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.3066 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.1843 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.13022 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.1491 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.15332 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.16532 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_50", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.02986 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05729 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.08575 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04833 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03296 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.0377 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04573 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04786 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_100", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.0172 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.03059 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04517 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02564 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01736 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.0199 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02511 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02598 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00236 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.0034 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00484 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00285 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00198 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00224 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00292 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00296 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.17823 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.44796 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.66181 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6116 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.42524 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.62594 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.51589 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4628 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22682 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52644 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72709 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68121 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49012 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68549 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58194 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.54403 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23726 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.54453 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73776 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69229 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5016 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69623 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5932 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5614 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.24534 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55471 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74373 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69908 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50811 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70069 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60269 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57212 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25099 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.55994 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74675 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70254 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5119 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70373 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60835 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57758 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25187 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56027 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74691 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70283 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51243 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70397 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60877 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57789 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25265 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.56051 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74702 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.70298 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51295 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70412 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.60898 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.57808 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6474 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64264 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63905 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74926 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57738 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60845 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63585 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64247 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55464 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63514 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.47546 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43027 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47899 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44578 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58227 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57121 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57957 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.66554 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69317 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53531 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57657 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57893 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57446 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.51695 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.61955 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.4996 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51412 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46446 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58572 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57355 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5617 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56254 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65981 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.68293 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54833 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60294 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59401 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.58615 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52497 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6526 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.54164 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55441 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.48783 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.61527 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6227 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.60332 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60128 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70596 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72596 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.58334 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64966 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6401 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62796 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.57461 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70245 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6006 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60007 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.53317 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63566 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69907 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.68752 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68021 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77193 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64185 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70767 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.70035 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.6827 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.64627 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7467 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.64612 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64223 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60675 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66417 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71005 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70046 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69693 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77957 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80718 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65818 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71783 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71239 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69489 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.66121 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75134 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65489 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64916 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.61879 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.67076 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7212 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71178 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70905 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.78571 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80947 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67517 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72321 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71988 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70992 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67396 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.75391 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.65891 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65057 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.62908 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.67183 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.22833 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.19368 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.20176 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.25874 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.28412 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.25234 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.29604 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.30853 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.34171 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.24947 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35929 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.3054 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35262 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.23316 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44578 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.39271 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34767 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.3543 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.4554 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.47391 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.39981 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.45166 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.46462 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.46678 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38206 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52099 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.42864 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46658 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.36452 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55087 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.45013 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.41606 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.41632 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.52813 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55123 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.45375 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.50376 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.50605 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50567 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42461 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56931 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46769 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49339 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4029 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56714 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.51174 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48427 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.48376 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.59612 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62102 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.49228 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.54033 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.54054 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.53496 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.46977 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60634 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.50465 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51713 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.43854 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57534 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5506 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5294 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52646 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.63317 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66431 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.5185 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.5668 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.56622 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5566 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5014 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62612 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52102 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52983 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46643 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5815 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55288 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.53231 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.52997 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.63468 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66598 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52108 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.56876 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.5683 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55875 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50413 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62698 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52237 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53067 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46832 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5821 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.55385 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.53326 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.53104 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6353 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66622 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52246 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.56925 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.56906 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.56011 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50519 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62721 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52263 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53076 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.46903 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58214 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.22833 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.19368 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.20176 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.25874 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.28412 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.25234 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.29604 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.30853 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.34171 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.24947 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.35929 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.3054 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35262 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.23316 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44578 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.44024 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.38656 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.39711 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.49153 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51448 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.44946 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52571 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.51938 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.51311 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44539 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.59822 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51949 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57789 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44014 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.68675 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.53496 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.50998 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50149 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.61289 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62612 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54773 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63913 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.60844 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.59163 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.52983 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.70459 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62483 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.6679 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52353 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.75904 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67794 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66012 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65171 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.75347 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76678 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64503 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.69365 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.65451 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.82158 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.76778 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.79055 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63683 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.82329 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.89063 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.88268 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.86285 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.93556 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96174 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.82082 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.92719 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.90727 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.86227 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.86394 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.96365 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.93052 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.95277 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.8789 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.95181 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.93524 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.9349 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.93082 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.96858 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.98868 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.89719 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.96931 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.96148 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.91485 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.92804 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.98446 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.97485 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9911 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.93665 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.99197 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.99501 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.9979 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.99629 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.99643 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 1.0 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 1.0 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 1.0 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 1.0 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6474 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64264 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63905 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74926 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57738 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60845 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63585 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64247 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55464 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63514 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.47546 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43027 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47899 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44578 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.47592 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48849 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49112 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55457 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55797 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.39782 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.40657 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.4071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.37724 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.38251 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.3973 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.29243 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.25915 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.32773 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.22892 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.37225 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.3976 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38935 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.43127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.44511 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.31369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.3093 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.29748 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.27634 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.29344 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.29946 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.2227 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.18279 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.24986 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15181 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.25231 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.27357 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.26834 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.28289 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.29457 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.19792 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.19268 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.18431 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.1707 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.19399 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.18649 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.14601 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.11187 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.16162 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08233 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.0685 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07706 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07485 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07263 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.0775 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05238 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05065 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.04891 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04597 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05426 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04546 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.0362 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02795 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04599 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01904 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03598 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04069 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.04018 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03743 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03992 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02833 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02685 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02605 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02476 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.02921 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.02332 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01899 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01457 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.0244 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00992 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00381 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00427 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00425 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00386 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00404 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.0031 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00274 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00271 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00313 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00195 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00147 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00259 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.001 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.6474 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64264 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.63905 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.74926 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.7663 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57738 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60845 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63585 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64247 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55464 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63514 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.47546 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43027 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47899 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.44578 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.72206 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71221 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71696 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.81268 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83016 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65179 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71174 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71195 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70699 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.64845 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.72523 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.57106 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53561 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.56769 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55087 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7342 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72723 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72673 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.8233 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83668 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72469 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.72498 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71734 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.66075 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.73752 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.59008 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55356 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57988 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56714 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.73985 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73277 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73302 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82579 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84033 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67001 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73229 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73197 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72709 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.66813 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74508 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60334 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5671 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58903 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.57534 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74381 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73589 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73631 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.8275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8427 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67369 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73427 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73505 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72959 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67324 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74717 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60801 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57258 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59718 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5815 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74402 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73601 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73652 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82771 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67428 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73436 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73537 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72978 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67353 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74722 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60826 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57295 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59752 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5821 } ] }, { "config": { "retrieval_model": "Linq-Embed-Mistral", "retrieval_model_link": "https://huggingface.co/Linq-AI-Research/Linq-Embed-Mistral", "reranking_model": "NoReranker", "reranking_model_link": null, "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-06-08T06:48:17Z", "is_anonymous": false, "revision": "8053ce4551b30ca39b892e14fa36582d" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.74406 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.73609 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.73662 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.82771 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6745 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73444 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73538 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72991 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.67367 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.74726 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60834 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57298 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59764 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58214 } ] } ]