[ { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "ndcg_at_1", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.27258 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30483 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20271 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48575 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59171 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29456 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50264 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23102 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44101 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46814 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67748 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48527 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.28105 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50849 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "ndcg_at_3", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.26173 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29074 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.19811 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.47734 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.54722 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.26074 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.47344 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21367 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4602 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.44149 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.61787 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44327 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.28907 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.48729 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "ndcg_at_5", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.27351 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29763 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21139 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.49032 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.53439 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.25057 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.48706 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.21443 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.4794 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46242 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.63375 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44925 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.3055 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49602 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "ndcg_at_10", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.32258 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.32412 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.248 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.52662 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.55984 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.27695 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.53016 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.24372 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.50811 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.50511 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.66338 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48882 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.34738 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.53107 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "ndcg_at_50", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.44728 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37064 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.35973 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58708 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.64722 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.40684 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58126 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.33989 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54477 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.56966 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.69142 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.53844 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.44421 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.58214 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "ndcg_at_100", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.48201 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37718 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.39404 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59292 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65602 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44538 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58596 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3658 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54994 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58345 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6941 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54217 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46645 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5873 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.48201 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37718 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.39404 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59292 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.65602 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.44538 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58596 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3658 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.54994 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58345 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.6941 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.54217 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.46645 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.5873 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "map_at_1", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.10672 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11894 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06064 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.2105 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.16098 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06021 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.22024 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05989 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.27054 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.24519 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.39937 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2002 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.11208 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.24556 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "map_at_3", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.16845 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.19121 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.10711 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.32805 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.29995 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.11146 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.35248 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.10612 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.38489 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.3419 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.52176 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.30717 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.18265 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.34954 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "map_at_5", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.19573 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22096 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13255 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37909 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.36896 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.13752 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.39498 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.12858 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.41928 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.3737 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.55789 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.34682 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.2138 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.39103 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "map_at_10", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.22944 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.25157 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.16344 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.43275 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.44484 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.17124 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.43319 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.15641 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44784 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.40315 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.58473 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.38604 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.24826 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.43168 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "map_at_50", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.27407 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27263 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20496 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46583 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49598 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.22206 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45508 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.1915 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46333 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.42737 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59776 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40888 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.28621 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45657 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "map_at_100", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.28057 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27355 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21127 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46699 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49795 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23078 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45583 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19634 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46399 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.42986 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59816 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40942 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.29052 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45752 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "map_at_1000", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.28057 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.27355 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.21127 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.46699 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.49795 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.23078 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.45583 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19634 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.46399 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.42986 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.59816 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.40942 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.29052 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.45752 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "recall_at_1", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.10672 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.11894 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.06064 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.2105 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.16098 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.06021 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.22024 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05989 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.27054 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.24519 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.39937 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.2002 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.11208 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.24556 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "recall_at_3", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.21158 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.23028 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.14024 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.37796 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.33881 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.14075 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.40922 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13758 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44118 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.41162 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.56487 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.36274 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.23657 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.4078 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "recall_at_5", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.28119 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.29308 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20445 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.4735 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.44562 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.19926 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.49508 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.19141 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5144 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.49435 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.64034 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.44465 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.31548 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.49338 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "recall_at_10", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.40991 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.37951 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30887 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60067 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59696 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.30397 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61057 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.2828 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.59399 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.60234 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.71736 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.5583 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.43536 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.6039 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "recall_at_50", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.79955 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.51385 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.62042 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.7643 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.81638 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.64188 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.7657 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.54782 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.71596 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.79994 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.80033 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.70424 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.71409 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.74359 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "recall_at_100", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.94907 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54393 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.75401 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78843 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.787 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64606 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74381 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8129 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72196 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80204 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76576 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "recall_at_1000", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.94907 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.54393 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.75401 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.78843 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.85061 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.77778 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.787 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.64606 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.74381 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.85694 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.8129 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.72196 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.80204 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.76576 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "precision_at_1", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.27258 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30483 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.20271 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48575 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59171 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29456 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50264 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23102 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44101 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46814 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67748 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48527 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.28105 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50849 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "precision_at_3", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.2054 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.22747 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.17089 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.36039 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.48056 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.24013 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.3554 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.18966 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.28496 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.29085 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.3785 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.33603 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.22797 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.3429 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "precision_at_5", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.17159 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.18579 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.1591 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.30037 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.40791 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.20971 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.27499 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.16731 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.21577 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.22156 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.2747 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.26262 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.19548 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.27264 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "precision_at_10", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.13238 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.13032 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.13029 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.21183 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.295 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.16585 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.17897 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.13025 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.1364 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.14378 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.16485 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.17429 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.14777 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.18325 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "precision_at_50", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.0548 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.03708 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.05659 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.05776 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.0843 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.07235 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.04641 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.05216 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.03412 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.04281 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.03878 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.04526 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.05409 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.04889 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "precision_at_100", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.03234 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.01941 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.03423 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.02978 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.04369 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.04382 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.02381 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.0306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.01753 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.02351 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.01972 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.02308 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.0308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.02518 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "precision_at_1000", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.00323 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.00194 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.00342 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.00298 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.00437 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.00438 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.00238 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.00306 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.00175 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.00235 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.00197 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.00231 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.00308 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.00252 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "mrr_at_1", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.27258 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.30539 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.2033 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.48637 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.59155 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.29562 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.50264 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.23102 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.44101 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.46814 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.67748 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.48527 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.28164 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.50849 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "mrr_at_3", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.35297 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.36785 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.27519 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.57043 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.67097 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.38545 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.58651 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3084 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.5061 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.56601 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.73229 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.57269 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.37889 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.59822 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "mrr_at_5", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.37324 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.38071 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.30168 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.58715 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.68365 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4093 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60071 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.3304 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.51689 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.58391 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74335 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.58555 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.40369 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.61337 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "mrr_at_10", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.39148 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39001 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.31959 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.59654 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69116 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.42772 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.60924 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.34755 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52277 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59386 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.7475 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59294 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42043 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62126 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "mrr_at_50", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.40359 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.39435 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33134 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60041 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69439 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.4372 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61354 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35849 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52678 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59917 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74942 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59669 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42869 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62477 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "mrr_at_100", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.40437 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3947 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33227 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60056 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69458 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43756 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61372 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35903 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52711 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59941 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74953 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59687 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42915 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62492 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "qa", "metric": "mrr_at_1000", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "zh", "dataset": "default", "value": 0.40437 }, { "domain": "law", "lang": "en", "dataset": "default", "value": 0.3947 }, { "domain": "news", "lang": "zh", "dataset": "default", "value": 0.33227 }, { "domain": "news", "lang": "en", "dataset": "default", "value": 0.60056 }, { "domain": "msmarco", "lang": "en", "dataset": "default", "value": 0.69458 }, { "domain": "healthcare", "lang": "zh", "dataset": "default", "value": 0.43756 }, { "domain": "healthcare", "lang": "en", "dataset": "default", "value": 0.61372 }, { "domain": "finance", "lang": "zh", "dataset": "default", "value": 0.35903 }, { "domain": "finance", "lang": "en", "dataset": "default", "value": 0.52711 }, { "domain": "wiki", "lang": "zh", "dataset": "default", "value": 0.59941 }, { "domain": "wiki", "lang": "en", "dataset": "default", "value": 0.74953 }, { "domain": "arxiv", "lang": "en", "dataset": "default", "value": 0.59687 }, { "domain": "web", "lang": "zh", "dataset": "default", "value": 0.42915 }, { "domain": "web", "lang": "en", "dataset": "default", "value": 0.62492 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "ndcg_at_1", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56936 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64793 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.62537 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76087 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65634 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63585 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65591 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47814 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.53514 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.40491 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35015 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47619 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.43775 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "ndcg_at_3", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5046 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.51238 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.57585 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.56292 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.69321 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.53739 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.60219 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57077 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60925 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.42738 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52505 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46464 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44993 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.44506 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5535 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "ndcg_at_5", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.5155 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.50097 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.56818 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5672 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.68737 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.55166 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.62201 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.6009 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.62775 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.44802 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.56967 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49997 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49634 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47859 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.58184 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "ndcg_at_10", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.57074 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.54697 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.60584 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.62406 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.73236 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59174 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.67149 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.65923 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.66895 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.50576 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62971 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.54925 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.53258 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.52866 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.60974 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "ndcg_at_50", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65559 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.64234 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.68361 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.70257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.79897 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.64742 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72452 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71006 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.71838 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58948 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68315 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.60533 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.58376 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.5875 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64326 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "ndcg_at_100", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66401 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65434 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69122 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71179 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65422 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72875 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7152 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72406 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60253 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68963 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6137 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59318 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60019 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64925 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "ndcg_at_1000", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.66401 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65434 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.69122 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71179 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.80257 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65422 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.72875 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7152 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.72406 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.60253 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.68963 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.6137 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.59318 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.60019 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.64925 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "map_at_1", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.19254 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.15647 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.19973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.20854 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.27097 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.25321 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.3083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.31079 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.35827 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.1999 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.30218 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.25787 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.27844 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.22747 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.43775 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "map_at_3", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.32382 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.2963 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.3528 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.37699 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46731 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.40092 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.47428 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.45559 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.50261 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.30472 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.43148 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.39442 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.39878 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.34775 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52544 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "map_at_5", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.38902 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.36084 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.4274 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.44439 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.55026 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.45698 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.52625 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.5081 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.54515 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.35248 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.48491 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.42938 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.43183 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.39291 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5413 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "map_at_10", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.4527 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43459 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.49744 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.51314 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.62326 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.50114 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.56695 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.5549 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.5772 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.39939 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.52863 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.46102 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.44974 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.43365 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55319 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "map_at_50", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49416 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48226 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5411 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.55437 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66488 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52815 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59139 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57744 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60027 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43594 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55146 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48079 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.4645 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.4566 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56113 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "map_at_100", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49584 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48476 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5423 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5559 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66566 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52924 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59217 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57825 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60135 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43808 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55247 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48179 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46556 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45834 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5617 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "map_at_1000", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.49584 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.48476 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.5423 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.5559 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.66566 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.52924 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.59217 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.57825 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.60135 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.43808 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.55247 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.48179 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.46556 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.45834 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5617 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "recall_at_1", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.19254 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.15647 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.19973 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.20854 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.27097 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.25321 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.3083 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.31079 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.35827 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.1999 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.30218 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.25787 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.27844 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.22747 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.43775 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "recall_at_3", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.36805 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.33407 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.38524 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.41626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.5054 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.44054 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.53971 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.50607 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.55079 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.34964 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.50348 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.49522 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51533 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.3999 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.63454 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "recall_at_5", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.48371 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.43731 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.50412 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.53147 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.63626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.54468 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.64355 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.62006 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.64268 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.45276 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.63055 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.58608 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.61499 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.50554 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.70281 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "recall_at_10", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.64537 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.59917 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.65183 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.6932 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.78549 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65541 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.76295 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.75865 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73345 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59366 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.7753 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.70723 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.71365 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.63239 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.78715 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "recall_at_50", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.8913 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.86614 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.86336 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.91173 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.95821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.82116 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.92634 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.91452 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.87748 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.84728 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.94721 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.90695 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.91518 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.83246 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.93173 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "recall_at_100", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "recall_at_1000", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.92765 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.91717 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.89912 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.95626 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.97235 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.85298 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.94563 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.94029 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.90235 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.90892 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.97991 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.95245 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.9686 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.89631 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.96787 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "precision_at_1", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56936 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64793 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.62537 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76087 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65634 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63585 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65591 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47814 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.53514 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.40491 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35015 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47619 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.43775 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "precision_at_3", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.41908 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.44945 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.48817 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.47886 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.57337 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.41071 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.43192 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.39776 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.40591 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.32514 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.34505 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.28834 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.23442 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.324 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.21151 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "precision_at_5", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.3526 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.37538 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.40828 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.38643 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.46196 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.32679 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.32507 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.30812 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.30161 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.26612 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.27622 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.21779 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.17389 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.25882 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.14056 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "precision_at_10", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.24595 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.26787 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.28225 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.26755 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.30489 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.20863 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.20423 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.2 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.18656 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.18579 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.17919 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.13865 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.10297 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.17087 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.07871 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "precision_at_50", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.06902 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.07736 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.07633 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.07221 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.07739 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.05363 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.05121 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.05003 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.0472 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.05459 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.04524 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.03613 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.027 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.04493 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.01863 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "precision_at_100", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.03566 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.04036 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.03908 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.03717 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.03927 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.02765 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.02614 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.02555 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.02433 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.0288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.0233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.01877 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.01424 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.02373 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00968 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "precision_at_1000", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.00357 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.00404 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.00391 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.00372 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.00393 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.00276 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.00261 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.00255 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.00243 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.00288 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.00233 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.00188 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.00142 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.00237 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.00097 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "mrr_at_1", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.56936 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.58258 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.64793 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.62832 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.76087 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.59821 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.65634 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.63585 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.65591 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.47814 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.53514 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.40491 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.35015 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.47619 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.43775 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "mrr_at_3", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.65414 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.65015 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.70513 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7001 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.82518 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.65377 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.73991 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.71195 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.73297 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.55829 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.62297 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.5138 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.47626 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.54995 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.52544 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "mrr_at_5", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67134 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.66186 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.71474 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.71396 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83632 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.66746 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.74878 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.7275 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.74615 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5781 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.64473 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.53144 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.49451 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.57222 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5413 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "mrr_at_10", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.67997 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67047 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72158 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.7205 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83857 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67315 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75637 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73591 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.7504 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.58992 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65443 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.54138 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.50688 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58069 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.55319 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "mrr_at_50", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68363 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67642 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72529 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72447 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.83999 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67696 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75916 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73834 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75327 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.59589 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65871 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.54845 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51423 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58553 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.56113 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "mrr_at_100", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68381 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67665 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72565 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72474 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84003 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67726 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75924 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73855 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75335 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5964 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65887 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.54892 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51478 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58621 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5617 } ] }, { "config": { "retrieval_model": "bge-m3", "retrieval_model_link": "https://huggingface.co/BAAI/bge-m3", "reranking_model": "jina-reranker-v1-turbo-en", "reranking_model_link": "https://huggingface.co/jinaai/jina-reranker-v1-turbo-en", "task": "long-doc", "metric": "mrr_at_1000", "timestamp": "2024-05-14T03:11:46Z", "is_anonymous": false, "revision": "97671a9fe67a86999677b0828f4ed48a" }, "results": [ { "domain": "law", "lang": "en", "dataset": "lex_files_500K-600K", "value": 0.68381 }, { "domain": "law", "lang": "en", "dataset": "lex_files_400K-500K", "value": 0.67665 }, { "domain": "law", "lang": "en", "dataset": "lex_files_600K-700K", "value": 0.72565 }, { "domain": "law", "lang": "en", "dataset": "lex_files_300K-400K", "value": 0.72474 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_30K-40K_10-merged", "value": 0.84003 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_40K-50K_5-merged", "value": 0.67726 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_2", "value": 0.75924 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_3", "value": 0.73855 }, { "domain": "healthcare", "lang": "en", "dataset": "pubmed_100K-200K_1", "value": 0.75335 }, { "domain": "book", "lang": "en", "dataset": "origin-of-species_darwin", "value": 0.5964 }, { "domain": "book", "lang": "en", "dataset": "a-brief-history-of-time_stephen-hawking", "value": 0.65887 }, { "domain": "arxiv", "lang": "en", "dataset": "llama2", "value": 0.54892 }, { "domain": "arxiv", "lang": "en", "dataset": "gpt3", "value": 0.51478 }, { "domain": "arxiv", "lang": "en", "dataset": "llm-survey", "value": 0.58621 }, { "domain": "arxiv", "lang": "en", "dataset": "gemini", "value": 0.5617 } ] } ]