[ { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38923 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48379 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50124 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65469 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.55603 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60047 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45263 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47256 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73734 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70411 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53668 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58942 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52665 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35008 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4578 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49966 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.60539 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48847 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.55275 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.40152 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49559 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.64557 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64094 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48495 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54337 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.51559 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.35466 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.4621 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.51371 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59122 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.46065 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.56163 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.39068 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51229 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65852 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.65706 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49516 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.54699 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52376 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37648 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.49877 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5526 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.61264 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.48309 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.59888 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.42113 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54026 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.69784 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.68699 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53183 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58426 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.55474 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41537 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.5673 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60599 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68788 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.58025 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.63872 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.48698 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.56989 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73081 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70897 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57233 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.63867 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60066 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41954 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.57334 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60968 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69343 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59036 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64085 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49189 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57384 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73332 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71089 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57427 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64237 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60424 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41954 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.57334 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60968 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69343 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.59036 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.64085 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.49189 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.57384 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73332 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71089 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57427 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64237 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.60424 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "map_at_1", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16277 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.14783 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.22405 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.18015 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.11504 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26987 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1191 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.29279 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.38808 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.41082 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.22656 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23003 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.25184 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "map_at_3", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23885 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.26457 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.34824 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.33967 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.22738 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.42237 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21114 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.41607 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.51819 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.54093 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34447 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.36441 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36988 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "map_at_5", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27235 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.32428 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40237 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.41892 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28807 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.46839 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25729 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.45073 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.56324 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58068 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.39021 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41985 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.41472 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "map_at_10", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30341 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.38386 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.45988 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.50024 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35459 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50568 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.30488 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.48009 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.6013 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.60855 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.42926 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.47472 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45505 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "map_at_50", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32238 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42159 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49016 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54772 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40744 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52445 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33759 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49378 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61809 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61953 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44927 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50553 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47816 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "map_at_100", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32306 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42276 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49085 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54908 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40971 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52478 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33855 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49431 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61855 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61988 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44959 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50635 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47888 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32306 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.42276 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49085 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54908 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40971 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.52478 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33855 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.49431 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.61855 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61988 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44959 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.50635 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.47888 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.16277 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.14783 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.22405 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.18015 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.11504 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.26987 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1191 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.29279 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.38808 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.41082 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.22656 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23003 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.25184 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27468 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31144 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.40231 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.37704 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.25925 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47628 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.25018 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4752 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.56749 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58382 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40091 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.41645 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43583 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.33918 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.41927 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50104 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49345 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.35733 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.5592 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33656 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5482 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.65425 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66195 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.49013 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.51878 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52375 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.41687 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.55435 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.62937 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64495 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.49873 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.66153 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45328 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.62812 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.75466 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7412 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59788 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.64582 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62555 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.5252 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.73025 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.77156 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.83004 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.74039 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.77754 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.62652 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.72216 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.84694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8051 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.71345 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.78728 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.75121 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54346 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.7544 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78779 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85052 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77814 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78707 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.646 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74318 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85689 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81307 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72236 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80187 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76573 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54346 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.7544 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78779 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85052 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77814 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.78707 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.646 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74318 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85689 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.81307 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72236 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80187 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76573 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38923 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48379 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50124 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65469 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.55603 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60047 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45263 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47256 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73734 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70411 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53668 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58942 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52665 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.26282 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.39815 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37753 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.53062 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.45251 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40949 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35771 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.30936 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.42228 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.39452 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36299 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42602 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.36712 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.20999 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.34225 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.31264 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.44966 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38698 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.30814 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3005 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.23028 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.31388 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.28743 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.28608 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34248 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.2908 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.14081 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.24213 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.22292 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.31711 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.28031 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.19315 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21136 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.14322 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.19404 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.17209 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.18521 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23321 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.19168 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03761 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06652 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05848 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.0853 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.08402 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04708 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05966 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03436 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04623 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03889 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.0457 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.06037 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04928 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01939 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03424 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02977 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04368 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04382 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01753 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02351 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01972 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02309 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02518 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00194 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00342 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00298 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00437 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00438 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00238 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00175 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00235 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00197 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00231 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00252 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38923 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.48379 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.50062 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65469 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.55603 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60047 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.45263 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.47192 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.73734 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.70411 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53668 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.58942 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.52665 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.4467 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.58348 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.5887 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.72712 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.63901 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6776 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54497 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5368 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.7971 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7568 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.61689 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.67558 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62312 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.45655 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.60302 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60326 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.73771 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.65398 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.68616 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.56247 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54721 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.80538 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76477 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.62928 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.68871 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.63715 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46194 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.61086 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61249 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74343 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.66194 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.6924 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.57147 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55281 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.80937 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.76946 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63644 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.69508 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64325 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46546 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.61448 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.6154 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74579 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.66597 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69497 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.57513 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55568 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.81014 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77083 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.6387 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.6974 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.64643 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46564 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.61467 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61555 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74587 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.66612 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69504 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.57525 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55593 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.81018 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77085 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63878 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.69748 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6465 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "default", "value": 0.46564 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.61467 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.61555 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.74587 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.66612 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.69504 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.57525 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.55593 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.81018 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.77085 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.63878 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.69748 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6465 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66185 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62462 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68935 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72861 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81522 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70704 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.69188 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71774 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50546 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55946 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43027 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54902 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51807 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.59658 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5773 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.6282 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.65924 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74933 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61023 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63721 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.62537 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64756 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48649 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56307 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.51392 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52195 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52286 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62875 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.58887 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.57061 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.61887 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6571 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.74008 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.61335 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.66472 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.64554 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65662 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49811 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.60723 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5648 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.5672 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54632 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.66504 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.63694 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.61624 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.66363 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70587 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78477 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65371 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.71658 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.69675 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.70608 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55992 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66191 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62147 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.60661 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.59264 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.67801 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71344 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.69974 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72746 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77158 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83882 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.6966 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75738 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74339 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74882 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62901 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71195 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66417 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.64039 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.648 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.70192 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71675 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70437 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72953 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70079 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75971 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74729 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74988 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63896 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71609 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66651 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65017 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.65331 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.7065 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.71675 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70437 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72953 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.77532 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70079 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75971 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.74729 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74988 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.63896 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.71609 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.66651 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.65017 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.65331 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.7065 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.22033 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.17877 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.21518 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.2435 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.29873 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29501 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.33267 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.37773 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.22165 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.31308 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.31728 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.34619 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.26553 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51807 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.39551 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.34538 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38875 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.45202 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.51892 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.46263 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.50561 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.50378 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.53115 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35537 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.46385 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.43944 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47156 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.41128 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60174 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.46015 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42387 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.47014 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.53159 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.60403 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52236 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.56599 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.55325 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57279 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.40243 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.51949 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.4868 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50281 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45745 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62182 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.52641 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.5027 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.55614 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.60251 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.68374 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.57262 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.61169 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.59901 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.61246 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.4548 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55931 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52384 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.52497 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4971 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62718 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56701 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55132 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59281 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64096 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.71997 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59229 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63207 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6196 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.63247 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48652 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.58213 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.54052 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53547 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52165 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63273 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56763 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55228 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59326 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64172 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72046 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59294 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63245 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.62037 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.63269 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48817 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.58279 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.54082 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53653 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52232 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63314 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56763 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.55228 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.59326 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.64172 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.72046 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59294 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.63245 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.62037 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.63269 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.48817 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.58279 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.54082 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53653 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52232 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63314 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.22033 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.17877 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.21518 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.2435 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.29873 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.29501 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.33267 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.34024 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.37773 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.22165 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.31308 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.31728 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.34619 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.26553 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51807 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.43965 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.38935 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.42648 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.48896 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55767 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50874 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.57222 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.56194 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.57682 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.41086 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.54629 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.52429 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57938 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47828 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.70683 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.54943 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51157 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.54846 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.61247 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.68365 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59906 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.68732 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.66004 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65913 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.49934 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.6718 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.64973 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.67977 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57323 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.79518 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.69306 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67293 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71581 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7584 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.8293 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.70522 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.81164 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7793 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77201 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.6568 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.80125 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.78995 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.78437 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.69017 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.83534 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.91275 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.89679 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89111 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.93932 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.96515 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.83327 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.9326 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.92278 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.89957 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.86255 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.9591 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.93957 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.91222 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.86766 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.93976 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92813 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89949 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90369 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92813 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89949 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85348 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90369 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66185 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62462 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68935 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72861 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81522 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65774 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70704 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.69188 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71774 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50546 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55946 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43027 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54902 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51807 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.50193 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.50651 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.53353 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.56146 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.61232 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.45734 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.4507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.43791 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.4328 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.37432 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.36847 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.30879 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.26805 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.37535 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.23561 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.39711 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.42342 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4432 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.44602 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.49022 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.3506 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.34704 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.32717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.31667 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.29781 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.29081 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.24233 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.19407 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.28571 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.15904 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.26734 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.29489 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.31065 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.29351 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.32283 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.22292 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.2169 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.20616 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.19919 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.2041 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.18378 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.15491 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.11454 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.18263 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.08353 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.07052 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07946 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07757 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07345 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07793 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05429 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05172 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.05014 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.04844 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05525 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04573 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03712 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.02706 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.0465 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.0188 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03569 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03911 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02768 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02611 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02438 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01877 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01424 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02373 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00968 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00357 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00404 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00391 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00372 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00393 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00277 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00244 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00188 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00142 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00097 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66185 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.62462 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68935 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72861 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.81522 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.70704 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.69188 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71774 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50546 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55946 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43027 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54902 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.51807 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.73025 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.70571 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.75394 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79154 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.87138 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.7252 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.78545 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.76097 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.77823 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59927 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.66351 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58998 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.55143 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63305 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60174 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7434 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.71727 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76267 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.79907 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88062 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.72847 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.79502 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77316 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7879 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.61416 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68338 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.61375 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.57176 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.6458 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62182 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7478 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72298 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.76858 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80464 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88182 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73127 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.799 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77695 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79391 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62388 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69139 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62443 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58051 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.65108 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.62718 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.7515 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72617 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.7716 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80735 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88208 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73441 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80094 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77982 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79565 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62865 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69421 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62902 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58571 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.65585 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63273 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75161 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72629 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77165 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80745 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88208 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73459 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80103 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77995 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79565 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62905 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69436 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62909 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58637 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.65615 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63314 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-base-en", "reranking_model_link": "https://jina.ai/reranker/", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-05-21T13:37:35Z", "is_anonymous": false, "revision": "11805021bca5629848b3156143308e37" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.75161 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.72629 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.77165 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.80745 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.88208 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.73459 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.80103 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.77995 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.79565 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.62905 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.69436 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.62909 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58637 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.65615 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63314 } ] } ]